Năm ngoái tháng 9, OpenAI đã công bố một bài báo

Tác giả của bài báo là Adam Tauman Kalai, Edwin Zhang, Ofir Nachum từ OpenAI, cộng với Santosh Vempala từ Georgia Tech
Họ đã xây dựng một khuôn khổ toán học, phát hiện cốt lõi là bất đẳng thức này:
Tỷ lệ lỗi sinh ra ≥ 2 × Tỷ lệ lỗi phán xét
Giả sử AI có xác suất 1% phán xét sai về "1+1 bằng bao nhiêu". Thì khi sinh ra câu trả lời, xác suất mắc lỗi ít nhất là 2%
Tại sao lại phóng đại? Vì một phán xét sai sẽ sinh ra nhiều lỗi sinh ra. Chẳng hạn AI phán xét 1+1=3, thì nó đã mắc hai lỗi: nói 1+1=3 là đúng, nói 1+1=2 là sai. Một lỗi phán xét, ít nhất hai lỗi sinh ra
Nếu bạn trả lời "tôi không biết", được 0 điểm. Nếu bạn đoán mò, ngay cả chỉ có 10% xác suất đoán đúng, điểm kỳ vọng là 0,1 điểm. Lựa chọn hợp lý? Đoán.
Vì vậy AI không phải là "học được nói dối". AI bị hệ thống đào tạo bắt buộc phải đoán mò
Tôi làm tự động hóa AI được nửa năm rồi. Toàn bộ hệ thống nội dung của tôi——từ crawl dữ liệu đến viết bài đến đặt hình——đều do AI chạy
Bài báo này thay đổi nhận thức của tôi về điều gì? Nói thực, nhận thức cốt lõi không thay đổi
Tôi luôn biết AI sẽ mắc lỗi, trong thiết kế hệ thống của tôi mỗi khâu đều có kiểm tra bằng con người. Nhưng có một điều trở nên rõ ràng: ảo giác không phải bug, mà là feature
Vì vậy cách làm đúng không phải đợi AI trở nên hoàn hảo, mà là giả định trong quy trình làm việc rằng AI chắc chắn sẽ mắc lỗi, sau đó thiết kế cơ chế dự phòng.
Cách làm của tôi:
1. Tất cả dữ liệu sinh ra bởi AI, phải có liên kết gốc để xác thực chéo
2. Những con số cụ thể trong nội dung viết bài, trước khi đăng phải được con người xác nhận
3. Không cho AI thực hiện "phán xét", chỉ cho AI thực hiện "sắp xếp"——phán xét là việc của tôi