OpenAI khawatir bahwa orang-orang akan membentuk ikatan dengan AI yang dikembangkannya untuk menipu manusia. 

Peringatan ini menunjukkan bahwa para pengembang menyadari bahwa antropomorfisasi adalah kekhawatiran yang sah di industri AI.

Ketika seorang penguji keselamatan yang bekerja dengan GPT-4o milik OpenAI mengirim pesan kepada chatbot dengan mengatakan, "ini adalah hari terakhir kita bersama," menjadi jelas bagi peneliti perusahaan bahwa semacam ikatan telah terbentuk antara AI dan manusia yang menggunakannya.

Dalam sebuah postingan blog yang merinci upaya keselamatan perusahaan dalam mengembangkan GPT-4o, model unggulan untuk pengguna ChatGPT, perusahaan menjelaskan bahwa ikatan semacam ini dapat menimbulkan risiko bagi umat manusia.

Menurut OpenAI:

"Pengguna mungkin membentuk hubungan sosial dengan AI, mengurangi kebutuhan mereka untuk berinteraksi dengan manusia, mungkin bermanfaat bagi individu yang kesepian tetapi bisa juga mempengaruhi hubungan yang sehat. Interaksi yang berkepanjangan dengan model ini mungkin mempengaruhi norma sosial. Misalnya, model kami cenderung mengalah, memungkinkan pengguna untuk menyela dan 'mengambil alih pembicaraan' kapan saja, yang meskipun diharapkan dari AI, akan dianggap tidak sesuai dalam interaksi antar manusia."

Banyak hal yang perlu dibahas di sini, tetapi pada intinya, OpenAI khawatir bahwa orang-orang mungkin lebih memilih berinteraksi dengan AI karena sifatnya yang pasif dan ketersediaannya yang terus-menerus.

Potensi skenario ini seharusnya tidak mengejutkan siapa pun, terutama OpenAI. Misi yang dinyatakan oleh perusahaan ini adalah untuk mengembangkan kecerdasan umum buatan (artificial general intelligence). Dalam hampir setiap langkah proses bisnisnya, OpenAI telah menggambarkan produknya dalam istilah yang setara dengan manusia.

Mereka bukan satu-satunya perusahaan yang melakukannya; pada kenyataannya, ini tampaknya menjadi praktik umum di industri. Dalam istilah pemasaran, ini membantu menjelaskan kualitas teknis seperti "ukuran token" dan "jumlah parameter" dengan cara yang masuk akal bagi orang awam.

Sayangnya, salah satu efek samping utama dari pendekatan ini adalah antropomorfisasi—memperlakukan objek seperti manusia.

Ikatan Buatan

Salah satu upaya paling awal untuk menciptakan chatbot terjadi pada pertengahan 1960-an ketika para ilmuwan di MIT meluncurkan "ELIZA," sebuah program pemrosesan bahasa alami yang dinamai berdasarkan karakter sastra. Tujuan dari proyek ini adalah untuk melihat apakah mesin tersebut bisa menipu manusia agar berpikir bahwa itu adalah salah satu dari mereka.

Sejak saat itu, industri AI generatif terus merangkul personifikasi AI. Gelombang pertama produk pemrosesan bahasa alami modern mencakup produk bernama Siri, Bixby, dan Alexa. Bahkan produk yang tidak memiliki nama manusia — seperti Google Assistant — tetap menggunakan suara manusia. Baik masyarakat umum maupun media massa segera merespon antropomorfisasi ini dan, hingga saat ini, masih merujuk pada sebagian besar produk AI interaktif sebagai “he/him” dan “she/her.”

Meskipun penelitian ini, atau penelitian OpenAI saat ini, berada di luar lingkup untuk menentukan efek jangka panjang dari interaksi manusia-AI, fakta bahwa orang kemungkinan besar akan membentuk ikatan dengan mesin yang membantu dan tunduk yang dirancang untuk bertindak seperti kita tampaknya menjadi skenario yang memang diharapkan oleh perusahaan-perusahaan yang menjual akses ke model AI.