[ad_1]
Mô hình ngôn ngữ lớn (hoặc LLM), được đào tạo trên số lượng lớn văn bản, là những công cụ siêu thông minh hỗ trợ các chatbot AI tổng hợp như ChatGPT và Gemini của Google — và Opera vừa trở thành trình duyệt web đầu tiên cho phép tích hợp cục bộ các LLM.
Bạn có thể đã đọc cách cài đặt cục bộ LLM: Điều đó có nghĩa là các mô hình AI được lưu trữ trên máy tính của bạn, do đó không cần phải gửi gì lên đám mây. Nó cần một sự kết hợp khá tốt giữa các phần cứng để hoạt động, nhưng sẽ tốt hơn từ góc độ quyền riêng tư—không ai có thể theo dõi lời nhắc của bạn hoặc sử dụng các cuộc trò chuyện của bạn để đào tạo AI.
Chúng ta đã thấy Opera giới thiệu nhiều tính năng AI khác nhau. Giờ đây, điều đó mở rộng sang LLM địa phương và bạn có hơn 150 mô hình để lựa chọn.
LLM cục bộ trong Opera
Có một số điều cần cân nhắc trước khi bạn đi sâu vào LLM cục bộ trong Opera. Đầu tiên, tính năng này vẫn đang ở giai đoạn thử nghiệm nên bạn có thể nhận thấy một hoặc hai lỗi. Thứ hai, bạn sẽ cần một chút dung lượng lưu trữ trống—một số LLM có dung lượng dưới 2GB, nhưng một số LLM khác trong danh sách lại có dung lượng trên 40GB.
LLM lớn hơn mang lại cho bạn câu trả lời tốt hơn nhưng cũng mất nhiều thời gian tải xuống hơn và chạy lâu hơn. Ở một mức độ nào đó, hiệu suất của mô hình sẽ phụ thuộc vào thiết lập phần cứng mà bạn đang chạy nó, vì vậy nếu bạn đang sử dụng một máy cũ hơn, bạn có thể phải đợi một lát để lấy lại thứ gì đó (và một lần nữa, đây là vẫn là bản thử nghiệm beta).
Opera đã giới thiệu chatbot Aria—hiện nay LLM địa phương cũng có sẵn.
Tín dụng: Lifehacker
Các LLM địa phương này là sự kết hợp giữa các mô hình được phát hành bởi các tên tuổi lớn (Google, Meta, Intel, Microsoft) và các mô hình do các nhà nghiên cứu và nhà phát triển tổng hợp lại. Chúng được cài đặt và sử dụng miễn phí—một phần lý do là bạn đang sử dụng máy tính của riêng mình để cung cấp năng lượng cho LLM, do đó nhóm phát triển nó không phải trả chi phí vận hành.
Lưu ý rằng một số mô hình này hướng đến các nhiệm vụ cụ thể, như viết mã và có thể không cung cấp cho bạn câu trả lời kiến thức chung mà bạn mong đợi từ ChatGPT, Copilot hoặc Gemini. Mỗi cái đều có mô tả kèm theo; hãy đọc kỹ trước khi cài đặt bất kỳ mô hình nào trong số này để bạn biết mình đang nhận được gì.
Kiểm tra nó cho chính mình
Đây là một tính năng chỉ có trong các phiên bản thử nghiệm đầu tiên của Opera tại thời điểm viết bài, trước khi triển khai rộng rãi hơn. Nếu muốn dùng thử, bạn cần tải xuống và thiết lập phiên bản dành cho nhà phát triển của Opera One. Sau khi hoàn tất, hãy mở bảng điều khiển bên trái bằng cách nhấp vào nút Aria (ký hiệu A nhỏ) và làm theo hướng dẫn để định cấu hình bot AI tích hợp (bạn sẽ cần tạo hoặc đăng nhập vào tài khoản Opera miễn phí) .
Khi Aria sẵn sàng hoạt động, bạn sẽ thấy một Chọn mô hình AI cục bộ ở trên cùng: Bấm vào đây, sau đó chọn Đi tới cài đặtvà bạn sẽ thấy danh sách LLM có sẵn cùng với một số thông tin về chúng. Chọn bất kỳ LLM nào để xem danh sách các phiên bản (cùng với kích thước tệp của chúng) và các nút tải xuống sẽ cài đặt chúng cục bộ.
Hiện đã có hơn 150 LLM để bạn lựa chọn.
Tín dụng: Lifehacker
Bạn có thể thiết lập nhiều LLM trong Opera nếu muốn—chỉ cần chọn LLM bạn muốn sử dụng trong mỗi cuộc trò chuyện thông qua menu thả xuống ở đầu cửa sổ Aria. Nếu bạn không chọn LLM cục bộ thì chatbot Aria mặc định (dựa trên đám mây) sẽ được sử dụng thay thế. Bạn luôn có thể bắt đầu cuộc trò chuyện mới bằng cách nhấp vào biểu tượng lớn + (dấu cộng) ở góc trên bên phải của cửa sổ trò chuyện.
Sử dụng các LLM cục bộ này giống như bất kỳ LLM nào chạy trên đám mây: Yêu cầu chúng tạo văn bản về bất kỳ chủ đề nào và theo bất kỳ phong cách nào, đặt câu hỏi về cuộc sống, vũ trụ và mọi thứ cũng như nhận mẹo về bất kỳ điều gì bạn thích. Vì những mô hình này không có quyền truy cập vào đám mây nên họ sẽ không thể tra cứu bất kỳ nội dung nào tương đối mới hoặc mang tính thời sự trên web.
function facebookPixelScript() {
if (!facebookPixelLoaded) {
facebookPixelLoaded = true;
document.removeEventListener('scroll', facebookPixelScript);
document.removeEventListener('mousemove', facebookPixelScript);
! function(f, b, e, v, n, t, s) {
if (f.fbq) return;
n = f.fbq = function() {
n.callMethod ?
n.callMethod.apply(n, arguments) : n.queue.push(arguments)
};
if (!f._fbq) f._fbq = n;
n.push = n;
n.loaded = !0;
n.version = '2.0';
n.queue = ();
t = b.createElement(e);
t.async = !0;
t.src = v;
s = b.getElementsByTagName(e)(0);
s.parentNode.insertBefore(t, s)
}(window,
document, 'script', '//connect.facebook.net/en_US/fbevents.js');
fbq('init', '37418175030');
fbq('track', "PageView");
}
}
[ad_2]
