Robotul a fost creat de cercetatorii din Statele Unite pentru a explica publicului larg modul in care sunt realizati algoritmii informatici si pentru a sensibiliza opinia publica in legatura cu posibilele pericole generate de inteligenta artificiala.

"Atunci cand oamenii spun ca algoritmii de inteligenta artificiala sunt partinitori sau nedrepti, vinovatul nu este algoritmul in sine, ci datele partinitoare care au fost utilizate (pentru punerea la punct a algoritmului). Aceasta idee este bine cunoscuta de oamenii de stiinta, insa mult mai putin de publicul larg", au explicat Pinar Yanardag, Manuel Cebrian si Iyad Rahwan, cercetatori la Massachusetts Institute of Technology (MIT).

De aici provine si ideea de a-l crea pe Norman, un robot al carui prenume a fost ales dupa cel al asasinului psihopat Norman Bates din filmul "Psycho" (1960), regizat de Alfred Hitchcock.

In mod concret, Norman a fost "hranit" doar cu scurte legende care descriu imagini "ale unor persoane aflate pe punctul de a muri", descoperite pe platforma online Reddit, au explicat cei trei cercetatori, care au creat si un site dedicat robotului Norman (http://norman-ai.mit.edu/).

Apoi cercetatorii i-au aratat lui Norman imagini cu pete de cerneala, supunandu-l si unui test psihologic Rorschach, pentru a afla ceea ce "vedea" robotul. In etapa urmatoare, ei au comparat raspunsurile lui Norman cu cele oferite de un alt program AI, ce fusese antrenat intr-o maniera traditionala.

Rezultatele sunt cel putin infioratoare: acolo unde programul AI traditional vedea "doua persoane in picioare, apropiate una de alta", Norman vedea in aceeasi pata de cerneala "un barbat care sare de la o fereastra". Iar acolo unde Norman spune ca vedea "un barbat ucis cu gloante in fata sotiei sale care tipa", robotul AI traditional vedea "o persoana care tine in mana o umbrela".

Site-ul dezvoltat de cei trei cercetatori arata 10 exemple de pete de cerneala insotite de raspunsurile oferite de cele doua sisteme informatice, in care raspunsul macabru era intotdeauna furnizat de Norman. Site-ul propune internautilor sa faca si ei testul petelor de cerneala si sa trimita raspunsurile lor pe adresa MIT "pentru a-l ajuta pe Norman sa se repare".

Mai mult decat un experiment stiintific, Norman ilustreaza "pericolele inteligentei artificiale atunci cand aceasta se indreapta spre calea raului, pentru ca date partinitoare au fost utilizate" pentru a-l antrena, au afirmat cei trei cercetatori, care spera sa "genereze o crestere a gradului de constientizare in randul publicului, dar si o dezbatere axata pe aceste subiecte".

Sursa: Agerpres