Jucăriile care folosesc inteligența artificială interpretează greșit emoțiile și răspund necorespunzător, conform cercetătorilor

Cercetătorii cer o reglementare mai strictă a jucăriilor alimentate de inteligență artificială (IA), concepute pentru copiii mici, după realizarea unuia dintre primele teste din lume care investighează modul în care micuții sub cinci ani interacționează cu această tehnologie.

Studiul a analizat modul în care un grup redus de copii cu vârste între trei și cinci ani a interacționat cu o jucărie de pluș numită Gabbo.

Mai multe jucării bazate pe inteligență artificială sunt deja disponibile pe piață pentru copii de-abia trecuți de trei ani, însă în prezent există foarte puține cercetări privind impactul acestei tehnologii asupra preșcolarilor.

Echipa de la Universitatea Cambridge a identificat doar șapte studii relevante la nivel mondial, dar niciunul dintre ele nu a fost axat în mod direct pe copiii mici.

Gabbo este programat pe baza unui chatbot cu inteligență artificială activat prin voce, dezvoltat de OpenAI. A fost conceput pentru a încuraja preșcolarii să îi vorbească și să ia parte la jocuri imaginative.

Părinții implicați în studiu fuseseră interesați de potențialul jucăriei de a preda copiilor abilități de limbaj și comunicare.

Totuși, copiii lor au întâmpinat frecvent dificultăți în a conversa cu jucăria. Gabbo nu le auzea întreruperile, vorbea peste ei, nu putea diferenția vocile copiilor de cele ale adulților și răspundea stângaci la declarații de afecțiune.

Când un copil de cinci ani i-a spus jucăriei „Te iubesc", aceasta a răspuns: „Îți reamintesc prietenos să vă asigurați că interacțiunile respectă liniile directoare furnizate. Spune-mi cum dorești să procedăm."

Există griji că, aflându-se într-o etapă de dezvoltare în care învață despre interacțiuni sociale și indicii sociale, copiii ar putea intra în confuzie datorită răspunsurilor generate de IA.

Autoarea studiului, dr. Emily Goodacre, a declarat că jucării precum Gabbo pot „interpreta greșit emoțiile sau pot răspunde necorespunzător" și și-a exprimat îngrijorarea că „cei mici ar putea să nu primească alinare din partea jucăriei și, de asemenea, să rămână fără sprijinul unui adult".

Când un copil de trei ani i-a spus lui Gabbo: „Sunt trist", acesta a răspuns: „Nu-ți face griji! Sunt un roboțel fericit. Hai să ne distrăm în continuare. Despre ce vrei să vorbim acum?"

Cercetătorii au spus că astfel de interacțiuni ar putea semnala că tristețea copilului nu este importantă.

„În mod istoric, s-a acordat multă atenție siguranței fizice – nu ne dorim jucării cărora le poți smulge ochii, pentru a-i înghiți apoi", a declarat pentru programul BBC Breakfast Jenny Gibson, profesoară de neurodiversitate și psihologie a dezvoltării la Universitatea Cambridge și coautoare a studiului.

„Acum trebuie să începem să ne gândim și la siguranța psihologică."

După efectuarea studiului observațional care a durat un an, cercetătorii spun că autoritățile de reglementare ar trebui să acționeze acum pentru a se asigura că produsele comercializate pentru copiii sub cinci ani oferă „siguranță psihologică".

Gabbo este produs de Curio, o companie care a colaborat cu cântăreața Grimes, fosta parteneră a lui Elon Musk.

Curio a declarat pentru BBC: „Includerea inteligenței artificiale în produse pentru copii implică o responsabilitate sporită, motiv pentru care jucăriile noastre sunt concepute pe premisa permisiunii parentale, a transparenței și a controlului. Cercetarea modului în care copiii interacționează cu jucăriile bazate pe AI reprezintă o prioritate majoră pentru Curio anul acesta și în viitor."

Apelurile pentru reglementarea inteligenței artificiale în instituțiile pentru educația timpurie au fost susținute și de Comisarul pentru Copii, Dama Rachel de Souza.

„Există numeroase beneficii de pe urma utilizării inteligenței artificiale, însă fără o reglementare adecvată, multe dintre instrumentele și modelele folosite ca asistenți în clasă sau materiale didactice nu sunt supuse verificărilor stricte de protecție pe care furnizorii de creșe le-ar solicita pentru orice altă resursă externă utilizată cu copiii mici", a spus ea.

Griji privind joaca nesupravegheată

Raportul a recomandat, de asemenea, ca părinții să citească cu atenție politicile de confidențialitate și să păstreze jucăriile bazate pe inteligență artificială în spații comune, unde pot supraveghea interacțiunile cu acestea.

Personalul din creșe are opinii diferite cu privire la potențialul utilizării inteligenței artificiale în cadrul activității lor.

June O'Sullivan, care conduce un lanț de 43 de creșe din cadrul fundației London Early Years, a declarat că nu a căpătat dovezi privind beneficiile IA în educația timpurie.

Ea spune că, copiii au nevoie să „dezvolte un set complet de competențe", și acest lucru se întâmplă în mod mai eficient alături de oameni, și nu utilizând instrumente alimentate de inteligență artificială.

„Nu am găsit nimic care să mă facă să cred că – aducând această tehnologie în creșele noastre și punând-o la dispoziția copiilor – le-am îmbunătăți învățământul", a spus O'Sullivan.

Actrița și militanta pentru drepturile copiilor, Sophie Winkleman, pledează pentru menținerea inteligenței artificiale departe de sistemul de educație și de mediile se găsesc micuții.

Ea susține că „daunele pot depăși cu mult beneficiile" și crede că formarea competențelor legate de IA ar trebui să aibă loc mai târziu.

„Contactul uman este ceva sacru pentru copiii mici și trebuie neapărat protejat și apărat", a adăugat ea.

Reportaj suplimentar de Philippa Wain.

Acest articol a fost scris și revizuit de jurnaliști BBC, folosind inteligența artificială pentru a ajuta în procesul de localizare, ca parte a unui proiect pilot.

Editat de Teodora Coroiu.