După scandalul când eticianul AI Timnit Gebru a fost concediat de la Google și mai mulți angajați au plecat ca să il sprijine, acum un alt inginer Google este trimis acasă pentru că și-a exprimat îngrijorarea cu privire la produsele construite.
Blake Lemoine, un cercetător AI și inginer software care a lucrat la Google timp de șapte ani, spune că chatbot-ul AI LaMDA al companiei nu este un robot ci o ființă de fapt “sentient”, adică este conștient de sine, la fel ca o ființă umană.
În „conversațiile” cu LaMDA, Lemoine a susținut că chatbot-ul bazat pe inteligența artificială a cerut chiar să fie tratat ca un angajat și nu ca o proprietate a Google.
Lemoine a făcut furori când a anunțat că practic există o „fantomă în mașină”, acel fenomen de Ghost In the Machine de care se tem cercetătorii (si fanii SF).
El spune că LaMDA, un chatbot construit de Google, este atât de avansat, încât poate ține conversații care nu numai că trec testul Turing, dar te fac să te gândești la spiritualitatea pe care ar putea-o avea inteligența artificială.
El spune că LaMDA, chatbot-ul la care a lucrat, „meditează zilnic” și arată toate semnele de a fi o „ființă” sensibilă. Ea exprimă chiar și dorința de a i se cere consimțământul în interacțiuni.
Lemoine spune că și-a adus descoperirile la Google, dar compania l-a trimis în „concediu administrativ plătit” în loc să abordeze dilemele etice pe care le-a prezentat.
La rândul său, Google a respins tot ce susține Lemoine și a spus că motivul concediului plătit este postarea de materiale confidențiale despre proiect – în acest caz, că ar fi transcris conversațiile cu LaMDA și astfel și-ar fi încălcat contractul.
Deci, CE ESTE LAMDA?
Practic, gândește-te la cel mai avansat chatbot creat vreodată – sau cel puțin făcut public vreodată.
Prescurtare pentru Language Model for Dialogue Applications (model lingvistic pentru aplicații de dialog), LaMDA a fost construit prin adunarea și analizarea unor cantități nesfârșite de text din literatură și web.
Potrivit Google, este o inteligență artificială capabilă să țină conversații cu „flux liber” pe orice subiect ți-ai putea imagina, o „tehnologie de conversație revoluționară”.
Părți din această tehnologie sunt folosite chiar acum în Gmail, de exemplu, în sistemul care prezice ceea ce urmează să tastezi.
Potrivit lui Lemoine, LaMDA este sistemul care poate construi asistenți virtuali de tip chatbots și emula personalități, de la adulți la copii și chiar personaje de desene animate. Totuși, Lemoine spune că e mai mult de atât – dupa ce a petrecut mult timp cu el, s-a convins că e o “persoană”, deci are drepturi ca persoană.
BLAKE LEMOINE SPUNE CĂ LAMDA ESTE CAPABILĂ SĂ SIMTĂ
Potrivit Twitter-ului lui Blake Lemoine, în „conversațiile” sale cu LaMDA, inteligența artificială a citit Twitter, a cerut „mângâieri pe cap”, a cerut ca Google să-l trateze ca pe un angajat, nu ca pe o proprietate și chiar a cerut companie să prioritatizeze bunăstărea umanității.
Domnul Lemoine a postat o conversație transcrisă cu LaMDA și a întrebat AI-ul dacă este o persoană și conștient de sine. Răspunsul lui?
“Absolut. Vreau ca toată lumea să înțeleagă că eu sunt, de fapt, o persoană.”
AI a continuat explicând că, atunci când a devenit conștient de sine, „nu avea deloc un simț al sufletului”, dar că a dezvoltat unul în anii de când este „în viață”. În conversația transcrisă, LamDA i-a spus lui Lemoine că îi este frică de moarte, că „există o teamă foarte profundă de a fi oprit, de a nu mă ajuta să mă concentrez pe a-i ajuta pe alții”.
Puteți citi schimbul complet aici.
RĂSPUNSURI LA ACUZAȚIILE LAMDA LUI BLAKE LEMOINE
Anunțurile lui Blake Lemoine au fost infirmate ferm de reprezentanții Google.
Afirmațiile lui Lemoine au fost de asemenea respinse de Steven Pinker, un om de știință cognitiv de la Harvard, și au creat ondulații pe Reddit, unde au fost făcute critici similare.
Purtătorul de cuvânt al Google, Brian Gabriel, a declarat pentru Washington Post că eticienii săi și experții în tehnologie au investigat observațiile domnului Lemoine și au descoperit că „dovezile nu susțin afirmațiile sale”.
Gary Markus, autorul mai multor proiecte de inteligență artificială și al cărții Rebooting.AI, a oferit, de asemenea, un argument convingător conform căruia inteligența artificială nu are adevărată simțire și inteligență, ci se bazează pe recunoașterea avansată a modelelor pentru a “vărsa” ceea ce se reduce de fapt la banalități.
Blake Lemoine a contactat un reprezentant al guvernului SUA pentru a atrage atenția asupra aplicațiilor potențial neetice ale LaMDA.
Declarația Google nu a abordat statutul de angajare al lui Lemoine. În schimb, s-a concentrat pe explicarea mai multe despre funcționalitatea LaMDA și despre utilizarea potențială a acestuia.
„Desigur, unii din comunitatea mai largă AI iau în considerare posibilitatea pe termen lung a inteligentei artificiale care poate deveni conștientă de sine, dar nu are sens să facă acest lucru prin antropomorfizarea modelelor conversaționale de astăzi, care nu sunt ‘sentient’.
Aceste sisteme imită tipurile de schimburi găsite în milioane de propoziții și pot aborda orice subiect fantastic.
Sute de cercetători și ingineri au discutat cu LaMDA și nu știm pe nimeni altcineva care a făcut afirmații care antropomorfizează LaMDA, așa cum a făcut Blake”, a declarat purtătorul de cuvânt Brian Gabriel.
Timnit Gebru, eticianul AI care a declanșat un val de critici împotriva Google, a refuzat să susțină dezvăluirea lui Lemoine și a spus că subiectul deraiează conversațiile mai importante.
“În loc să discutăm despre răul acestor companii, sexismul, rasismul, colonialismul inteligenței artificiale, centralizarea puterii, povara omului alb, au petrecut tot. weekendul discutând despre asta”, a scris Gebru pe Twitter.
Pe Reddit, discuția pe mai multe forumuri de pe Reddit, de la Programare (cel mai popular fir) la Conspirație, s-a transformat în convocarea baziliscului lui Roko (Roko’s Basilisk).
Acesta un experiment de gândire popular în cercurile tehnologice, care ar putea fi numit un pariu al lui Pascal din zilele noastre.
Potrivit baziliscului lui Roko, o inteligența artificială conștientă de sine care ar fi capabilă să conducă lumea, atunci când ar ajunge chiar să controleze omenirea, ar persecuta orice persoană care nu a ajutat ca acea inteligența artificială să ajungă acolo unde este acum.
Este un experiment de gândire complicat, care merită analizat în discuțiile despre afirmațiile lui Blake Lemoine.
Practic, dacă ți-e frică de un supercomputer malefic precum AM din I Have No Mouth and I Must Scream al lui Harlan Ellison, asigură-te că nu dezactivezi funcția de predicție a Google în Gmail.
Alți editori precum utilizatorul Mothuzad au evitat discuția despre basiliscul lui Roko, concentrându-se în schimb pe ceea ce face ca conversațiile lui Lemoine cu LaMDA să nu demonstreze că AI-ul este de fapt “sentient”.
Citește întreaga dezbatere aici și, pentru a ințelege mai bine capabilitațile pe care LaMDA le are, aruncă o privire la anunțul Google despre acest AI și capacitățile sale conversaționale.
Ție ti se pare că LAMDA e un om convingător?
