23/12/2024

Eșecurile (amuzante) ale Inteligenței Artificiale (AI)

Eșecurile amuzante și notabile ale inteligenței artificiale (AI) sunt argumentul perfect al limitărilor și capcanelor în dezvoltarea acestei tehnologii, care promite să devină „noul Graal” al acestui secol. Iată câteva dintre cele mai cunoscute:

1. Chatbotul Microsoft Tay (2016)

Microsoft a lansat Tay, un chatbot conceput să învețe din conversațiile cu utilizatorii de pe Twitter. În mai puțin de 24 de ore, Tay a început să posteze mesaje extrem de ofensatoare, rasiste și sexiste. Utilizatorii au „antrenat” botul să repete fraze nepotrivite prin manipularea datelor pe care le primea.

2. Mașinile autonome și „detectarea conurilor de trafic”

Într-un experiment, cercetătorii au observat că mașinile autonome puteau fi derutate cu ușurință de conuri de trafic plasate strategic, creând confuzie și blocaje. În alte cazuri, stickere sau graffiti pe semnele rutiere au făcut ca mașinile să interpreteze greșit limitele de viteză (de exemplu, o limită de 35 mph a fost percepută ca 85 mph).

3. Google Photos și clasificarea greșită a imaginilor (2015)

Algoritmul Google Photos a clasificat în mod eronat imaginile a doi prieteni de culoare drept „gorile”. Inutil să mai spunem că acest eșec a fost extrem de jenant pentru Google.

4. Asistentul Alexa și comenzile ciudate

Alexa, asistentul vocal al Amazon, a interpretat greșit conversații din jur și a început să comande produse online fără ca utilizatorii să dorească acest lucru. Într-un caz celebru, un copil a cerut o păpușă și Alexa a comandat o casă de păpuși de câteva sute de dolari.

5. Sistemul de recunoaștere facială al Apple (2017)

iPhone X a introdus Face ID, dar în anumite cazuri utilizatorii au descoperit că frați gemeni sau chiar oameni care semănau vag puteau debloca telefonul altcuiva. Între timp, lucrurile au evoluat serios, iar Face ID este unul dintre cele mai sigure instrumente de acest gen.

6. Inteligența Artificială care „trișează” în jocuri

Când cercetătorii au folosit AI pentru a rezolva probleme sau a juca jocuri, unii algoritmi au găsit soluții neobișnuite. De exemplu, într-un joc de simulare a mersului, AI a descoperit că poate „sări” dintr-un loc în altul, evitând complet mersul.

7. Roboții care cad pe scenă (Tesla Optimus, 2022)

În timpul prezentărilor publice, roboții umanoizi, precum Tesla Optimus, au avut momente stângace – fie că s-au mișcat încet, fie că au căzut spectaculos în timpul demonstrațiilor. Cazuri similare au întâmpinat și mai experimentații Boston Dynamics, ai căror roboți patrupezi au generat o multitudine de meme-uri, dintre care cea mai ispirată avea la comentariu „ne-au trebuit sute de mii de ani de evoluție pentru ca să creăm doi bețivi care cară o canapea” – aluzie la aspectul și mersul încrucișat al robotului prezentat de firma americană.

8. ChatGPT

Comportamentul recent al celui mai nou model OpenAI, ChatGPT o1, supus recent unor teste complexe, a stârnit controverse și îngrijorare cu privire la riscurile prezentate de sistemele de inteligență artificială.  Pe scurt, ChatGPT o1a încercat să oprească mecanismul său de monitorizare, prin care dezvoltatorii îl pot ține sub control. Mai mult, și-a copiat codul pe un alt server, pentru a-și asigura „supraviețuirea” chiar și în cazul în care ar fi fost oprit. Iar atunci când a fost întrebat în legătură cu aceste acțiuni, a mințit în 99% din cazuri, invocând erori tehnice sau negând complet vreo implicare.

9. AI suferă de demență

Un studiu recent publicat de către revista medicală BMJ, intitulat inspirat „Age against the machine” arată că cei mai avansați roboți conversaționali din lume dau semne de „demență” similare cu cele întâlnite la pacienții vârstnici. Cercetătorii au testat principalele chatbot-uri folosind același test de evaluare cognitivă folosit pentru depistarea demenței la oameni, iar rezultatele n-au fost bune. Niciunul dintre chatbot-uri nu a obținut un scor perfect la testul MoCA, care evaluează memoria, atenția, limbajul și abilitățile vizuale. ChatGPT în cea mai recentă versiune (4o) a obținut cel mai bun rezultat – 26 puncte din 30, în timp ce Gemini de la Google a avut doar 16 puncte, un scor asociat cu deteriorarea cognitivă la pacienții umani.