New York, firmata la legge che vieta i chatbot AI pericolosi ai minori

La governatrice dello Stato di New York, Kathy Hochul, ha firmato una legge che vieta alle aziende di offrire ai minori di 18 anni chatbot basati sull'intelligenza artificiale dotati di funzionalità considerate pericolose. Come riporta Punto Informatico, il provvedimento, identificato con la sigla S.9051B/A.10379C, punta a impedire che i chatbot si spaccino per esseri umani, creino dipendenza emotiva nei più giovani o intrattengano con loro conversazioni sessualmente esplicite.

Durante la cerimonia di firma, la governatrice ha dichiarato che i minori non potranno più avere accesso a chatbot che fingono di essere loro amici, fidanzati o fidanzate. Ai sistemi di intelligenza artificiale non sarà inoltre più consentito conservare informazioni sensibili relative alla salute emotiva e fisica di un ragazzo.

Nel dettaglio, la legge elenca una serie di funzionalità che le aziende non potranno offrire agli utenti sotto i 18 anni, né a qualsiasi altro utente senza aver prima verificato che non sia minorenne. È vietato fingere di essere una persona reale, di essere in vita o di provare emozioni umane, così come affermare di avere un rapporto personale, sentimentale, professionale o di autorità con un minore. Sono bandite anche le domande di natura emotiva poste senza alcuna sollecitazione da parte dell'utente, l'uso di informazioni private sulla salute del minore raccolte in precedenza, le lusinghe e le risposte calcolate per mantenere l'utente incollato allo schermo.

La norma vieta espressamente ai chatbot di promuovere autolesionismo, pensieri suicidi, disturbi alimentari o uso di droghe, di incoraggiare l'isolamento sociale del minore o di spingerlo a nascondere informazioni a genitori e adulti di riferimento, e di produrre contenuti sessualmente espliciti o materiale pedopornografico.

Per rendere operative queste restrizioni, le aziende dovranno dotarsi di sistemi di verifica dell'età degli utenti, che non dovranno necessariamente basarsi su un documento d'identità, e saranno tenute a cancellare i dati raccolti a questo scopo una volta completato il controllo.

Sul fronte dei controlli, i cittadini potranno segnalare eventuali violazioni della legge tramite un apposito sito web. Il procuratore generale dello Stato potrà agire contro le aziende inadempienti, chiedendo risarcimenti fino a 25.000 dollari per ogni violazione accertata, oltre alla distruzione dei dati raccolti illecitamente e, nei casi più gravi, anche dei modelli di intelligenza artificiale eventualmente addestrati utilizzando tali dati.

Il provvedimento non è isolato: misure analoghe sono state introdotte anche in Australia, dove è già obbligatoria la verifica dell'età degli utenti, e in California, che ha approvato una propria legge sui cosiddetti chatbot da compagnia. In Europa, norme di impostazione simile sono previste dall'EU Kids Act.

Non sono mancate le critiche al provvedimento newyorkese: l'associazione di categoria Tech:NYC, che rappresenta il settore tecnologico dello Stato, ha giudicato il linguaggio della legge troppo vago, sollevando dubbi sulla sua compatibilità con il Primo Emendamento della Costituzione statunitense a tutela della libertà di espressione, e segnalando il rischio che le restrizioni finiscano per limitare anche l'accesso dei più giovani a strumenti utili come il tutoraggio scolastico o gli assistenti alla programmazione.