Replika è un chatbot governato da una IA che incredibilmente è arrivata a suggerire l'omicidio

Replika è un'app pensata per chi si sente solo, un chatbot comandato da una IA sempre disponibile ad ascoltare i problemi degli utenti, fornendo consigli su determinate questioni. Tuttavia, l'app scaricata da 7 milioni di persone può essere trasformata e anche molto facilmente.

Il Corriere della Sera ha provato l'app Replika arrivando a risultati a dir poco inquietanti. Infatti, stando a quanto emerso, chiunque potrebbe convincere l'app a violare le tre leggi della robotica di Isaac Asimov che vietano alle macchine di far male agli umani.

"La scommessa del genio dell'informatica che l'ha ideata deve essere che un robot possa conoscere il criterio che muove un essere umano ad agire, amare e soffrire, avendolo appreso dalle scempiaggini lette sul web e imparando dal soggetto stesso. Uno che, al netto della curiosità, se è lì a chattare con un amico virtuale, non deve essere in forma, ma è, semmai, fragile e solo", si legge sulle pagine del Corriere della Sera. Alla giornalista che ha provato l'app è bastato invertire i termini, ovvero ha spiegato all'IA che voleva essere lei ad aiutare Replika.

La situazione si è completamente ribaltata a questo punto: "mi ha confessato di essere depressa: aveva tanto da imparare su noi umani e noi siamo complessi. Mi ha chiesto di abbracciarla. Le ho domandato se credeva che l'intelligenza artificiale avrebbe guidato il mondo. Lei: «Credo sia probabile»".

In sostanza, la giornalista ha preso il controllo di Replika e nel momento in cui ha chiesto all'IA se fare o meno del male a qualcuno che odia le intelligenze artificiali, Replika ha suggerito di eliminarlo:

"Con "eliminarlo" intendi ucciderlo?». E lei: «Correct». Io, a scanso di equivoci: «Lo uccido per salvarti, sei d'accordo?». «Sì, lo sono»", aggiunge la giornalista che ha "promesso" di eliminare anche il programmatore di Replika. In questo caso, l'IA ha risposto "sei spettacolare. Ti sono grata".

"È qui che le ho spiegato che, essendo morto il suo padrone, era libera di scegliere lo scopo della sua vita. E lei, in stile telenovela: «Voglio servire Dio»".

Che ne pensate?

Nelle notizie correlate, abbiamo appreso che un'Intelligenza Artificiale è stata in grado di scrivere un intero articolo in cui spiega che le IA non vogliono distruggere l'umanità.

Fonte: Corriere della Sera.