Analisis terbaru menunjukkan bahwa AI Google menyebarkan informasi salah dalam skala besar, dengan akurasi hanya 91%. Temuan ini menyoroti krisis misinformasi. AI Google Overviews, 'rangkuman instan' yang dibuat oleh AI Google di bagian paling atas hasil pencarian, ternyata menyebarkan informasi yang salah dalam skala besar.
Analisis yang dilakukan oleh perusahaan rintisan AI Oumi, atas permintaan The New York Times, menemukan bahwa ringkasan yang dihasilkan AI yang muncul di atas hasil pencarian Google akurat sekitar 91 persen dari waktu ke waktu. Namun, di balik itu semua, Google memproses kira-kira sebanyak lima triliun permintaan pencarian setiap tahun. Menurut analisis tersebut, hal itu berarti puluhan juta jawaban yang salah diberikan oleh AI Overviews setiap jam dan ratusan ribu setiap menit.
Tingkat Kesalahan AI Google Overviews
Berikut adalah tabel perbandingan akurasi AI Google Overviews antara model Gemini 2 dan Gemini 3:
| Model | Akurasi |
|---|---|
| Gemini 2 | 85% |
| Gemini 3 | 91% |
Analisis itu juga menunjukkan bahwa orang cenderung mempercayai AI tanpa ragu. Sebuah laporan menemukan bahwa hanya delapan persen pengguna yang memeriksa ulang jawaban AI. Eksperimen lain menemukan bahwa pengguna mendengarkan AI hampir 80 persen dari waktu ketika AI memberikan jawaban yang salah.
Tanggapan Google
Menanggapi temuan tersebut, Google menyebut analisis tersebut cacat. "Studi ini memiliki kelemahan serius," kata juru bicara Google, Ned Adriance, dalam pernyataan kepada NYT. Namun, menurut laporan tersebut, pengujian yang dilakukan Google sendiri justru menggambarkan gambaran yang sama buruknya.