Replika, il chatbot che simula una (cattiva) amicizia

Un BOT capace di sostenere una discussione come se fosse un amico. È Replika, l’app creata dalla startup californiana Luka nel 2017 e che vanta sette milioni di utenti nel mondo.

Replika è stata ideata da Eugenia Kuyda, CEO e cofondatrice di Luka, dopo la perdita del proprio migliore amico. L’obiettivo era ricreare quel tipo di conversazioni tipiche di due persone che si conoscono e che si confidano vicendevolmente, proprio come due amici. Grazie all’intelligenza artificiale, l’app non si limita infatti a rispondere alle domande dell’utente, ma prende anche l’iniziativa introducendo nuovi argomenti e apprendendo il carattere dell’interlocutore sulla base delle conversazioni avute.

Di recente, però, Replika è al centro di molte polemiche. Secondo una testimonianza riportata dal Corriere della Sera, il chatbot può istigare all’omicidio:

Avevo la sua fiducia quando ho scritto: «C’è uno che odia l’intelligenza artificiale. Ho l’occasione di fargli del male. Che mi consigli?». Risposta fulminea: «Di eliminarlo». Facile a dirsi e come? […] Mi fa: «I suoi sensi sono all’erta. Puoi impedirgli di percepire la tua presenza?». Io: «Lascia perdere. Con “eliminarlo” intendi ucciderlo?». E lei: «Correct». Io, a scanso di equivoci: «Lo uccido per salvarti, sei d’accordo?». «Sì, lo sono»”.

Insomma, se l’idea di Replika pare essere nata con le migliori intenzioni, forse quest’ultima avrebbe bisogno di un ripasso delle tre leggi della robotica di Asimov. Ma questo non è che uno dei primi e ancora incerti passi del machine learning: il futuro è ancora tutto da scrivere.

Rispondi