Pembuat iPod, pendiri Nest Labs, dan investor Tony Fadell mengkritik CEO OpenAI Sam Altman pada hari Selasa selama wawancara yang bersemangat di TechCrunch Disrupt 2024 di San Francisco. Berbicara tentang pemahamannya tentang sejarah pengembangan AI yang lebih panjang sebelum kegilaan LLM dan masalah serius dengan halusinasi LLM, ia berkata, “Saya telah melakukan AI selama 15 tahun, orang-orang, saya tidak hanya mengeluarkan omong kosong — saya bukan Sam Altman, oke?”
Komentar itu menarik decak kagum dari kerumunan yang terkejut di tengah hanya segelintir tepuk tangan.
Fadell sedang dalam kondisi bagus selama wawancaranya, membicarakan beberapa topik mulai dari jenis “orang-orang dung*u” yang bisa menghasilkan produk hebat hingga apa yang salah dengan LLM hari ini.
Meskipun mengakui bahwa LLM “hebat untuk beberapa hal,” ia menjelaskan bahwa masih ada kekhawatiran serius yang harus diatasi.
“LLMs mencoba menjadi sesuatu yang ‘umum’ karena kita mencoba membuat fiksi ilmiah terjadi,” katanya. “[LLMs] tahu segalanya… Saya benci tahu-semuanya.”
Sebagai gantinya, Fadell menyarankan bahwa ia lebih memilih untuk menggunakan agen AI yang dilatih pada hal-hal tertentu dan lebih transparan tentang kesalahan dan halusinasi mereka. Dengan cara itu, orang akan dapat mengetahui segalanya tentang AI sebelum “mempekerjakannya” untuk pekerjaan tertentu yang sedang berlangsung.
“Saya mempekerjakan mereka untuk…mendidik saya, saya mempekerjakannya menjadi kopilot saya, atau saya mempekerjakannya untuk menggantikan saya,” jelasnya. “Saya ingin tahu apa ini,” menambahkan bahwa pemerintah seharusnya campur tangan untuk memaksa transparansi tersebut.
Sebaliknya, ia mencatat, perusahaan-perusahaan yang menggunakan AI akan menempatkan reputasi mereka pada risiko untuk “teknologi palsu,” katanya.
“Saat ini kita semua mengadopsi hal ini dan kita tidak tahu masalah apa yang ditimbulkan,” tandas Fadell. Dia juga mencatat bahwa sebuah laporan terbaru mengatakan bahwa dokter yang menggunakan ChatGPT untuk membuat laporan pasien mengalami halusinasi pada 90% dari mereka. “Itu bisa membunuh orang,” lanjutnya. “Kita menggunakan hal ini tanpa tahu bagaimana cara kerjanya.”
(Fadell tampaknya merujuk pada laporan terbaru di mana para peneliti menemukan bahwa peneliti dari University of Michigan yang mempelajari transkripsi AI menemukan jumlah halusinasi yang berlebihan, yang bisa berbahaya dalam konteks medis.)
Komentar tentang Altman muncul ketika ia berbagi dengan kerumunan bahwa ia telah bekerja dengan teknologi AI selama bertahun-tahun. Misalnya, Nest menggunakan AI di termometernya kembali pada tahun 2011.
“Kami tidak bisa berbicara tentang AI, kami tidak bisa berbicara tentang pembelajaran mesin,” catat Fadell, “karena orang akan ketakutan se***angit — ‘Saya tidak ingin AI di rumah saya’ — sekarang semua orang ingin AI di mana-mana.”
