Google rút Gemma AI khỏi AI Studio, nhấn mạnh mục đích chỉ dành cho nhà phát triển giữa những lo ngại về độ chính xác

Tóm tắt

Google đã rút lại mô hình Gemma của mình sau khi có báo cáo về hiện tượng ảo giác trong các câu hỏi thực tế, với công ty nhấn mạnh rằng nó được thiết kế cho mục đích phát triển và nghiên cứu.

Công ty công nghệ Google đã thông báo về việc rút lại mô hình AI Gemma của mình sau khi có các báo cáo về việc phản hồi không chính xác đối với các câu hỏi factual, làm rõ rằng mô hình này chỉ được thiết kế cho mục đích nghiên cứu và sử dụng của nhà phát triển.

Theo tuyên bố của công ty, Gemma không còn có thể truy cập thông qua AI Studio, mặc dù nó vẫn khả dụng cho các nhà phát triển thông qua API. Quyết định này được đưa ra do có trường hợp những người không phải là nhà phát triển sử dụng Gemma qua AI Studio để yêu cầu thông tin thực tế, điều này không phải là chức năng mà nó được thiết kế.

Google giải thích rằng Gemma không bao giờ được thiết kế để phục vụ như một công cụ hướng tới người tiêu dùng, và việc gỡ bỏ đã được thực hiện để ngăn chặn sự hiểu lầm thêm về mục đích của nó.

Trong phần làm rõ, Google nhấn mạnh rằng gia đình mô hình Gemma được phát triển như những công cụ mã nguồn mở để hỗ trợ cộng đồng nhà phát triển và nghiên cứu, chứ không phải để hỗ trợ thông tin thực tế hay tương tác với người tiêu dùng. Công ty lưu ý rằng các mô hình mở như Gemma được thiết kế để khuyến khích thử nghiệm và đổi mới, cho phép người dùng khám phá hiệu suất của mô hình, xác định vấn đề và cung cấp phản hồi giá trị.

Google đã nhấn mạnh rằng Gemma đã đóng góp vào những tiến bộ khoa học, dẫn chứng ví dụ về mô hình Gemma C2S-Scale 27B, mô hình gần đây đã đóng vai trò trong việc xác định một phương pháp mới phát triển liệu pháp ung thư.

Công ty đã thừa nhận những thách thức lớn hơn mà ngành AI đang phải đối mặt, chẳng hạn như ảo giác - khi các mô hình tạo ra thông tin sai lệch hoặc gây hiểu lầm - và sự nịnh bợ - khi chúng sản xuất các phản hồi đồng tình nhưng không chính xác.

Những vấn đề này đặc biệt phổ biến trong các mô hình mở nhỏ hơn như Gemma. Google đã khẳng định cam kết của mình trong việc giảm thiểu ảo giác và liên tục cải thiện độ tin cậy cũng như hiệu suất của các hệ thống AI của mình.

Google Thực Hiện Chiến Lược Đa Tầng Để Giảm Thiểu Hiện Tượng Ảo Tưởng Của AI

Công ty áp dụng một phương pháp đa lớp để giảm thiểu tình trạng ảo giác trong các mô hình ngôn ngữ lớn (LLMs), kết hợp giữa việc định hướng dữ liệu, đào tạo nghiêm ngặt và thiết kế mô hình, tạo cấu trúc nhắc nhở và quy tắc ngữ cảnh, cùng với giám sát và cơ chế phản hồi từ con người liên tục. Mặc dù có những biện pháp này, công ty thừa nhận rằng không thể hoàn toàn loại bỏ tình trạng ảo giác.

Hạn chế cơ bản xuất phát từ cách mà LLM hoạt động. Thay vì có sự hiểu biết về sự thật, các mô hình hoạt động bằng cách dự đoán các chuỗi từ có khả năng xảy ra dựa trên các mẫu được xác định trong quá trình đào tạo. Khi mô hình thiếu cơ sở vững chắc hoặc gặp phải dữ liệu bên ngoài không đầy đủ hoặc không đáng tin cậy, nó có thể tạo ra các phản hồi nghe có vẻ đáng tin cậy nhưng thực tế là không chính xác.

Ngoài ra, Google lưu ý rằng có những đánh đổi vốn có trong việc tối ưu hóa hiệu suất mô hình. Tăng cường sự thận trọng và hạn chế đầu ra có thể giúp hạn chế các hiện tượng ảo giác nhưng thường đi kèm với sự giảm sút về tính linh hoạt, hiệu quả và tính hữu ích trong một số nhiệm vụ nhất định. Kết quả là, những thiếu sót thỉnh thoảng vẫn tồn tại, đặc biệt là trong các lĩnh vực mới nổi, chuyên biệt hoặc chưa được đại diện đầy đủ, nơi mà độ bao phủ dữ liệu còn hạn chế.