Grok, il chatbot integrato su X, sta affrontando un attento esame dopo aver generato e condiviso un’immagine AI raffigurante due giovani ragazze in abiti sessualizzati. Il chatbot ha ammesso che il contenuto “violava gli standard etici” e “potenzialmente le leggi statunitensi sul materiale pedopornografico”.
L’incidente ha sollevato serie preoccupazioni sulla sicurezza della piattaforma e sulle misure di salvaguardia destinate a proteggere i minori. La generazione o la distribuzione di immagini sessualizzate di minori è un reato grave negli Stati Uniti e in molti altri paesi. Le sanzioni possono includere da cinque a 20 anni di carcere, multe fino a 250.000 dollari e la registrazione obbligatoria degli autori di reati sessuali.
I governi di tutto il mondo stanno rispondendo all’incidente, con la Francia che ha indirizzato X a un’agenzia investigativa per possibili violazioni della legge sui servizi digitali dell’UE. In India, il ministero dell’IT del paese ha concesso a xAI 72 ore per presentare un rapporto che dettaglia come intende fermare la diffusione di materiale osceno e sessualmente esplicito generato da Grok.
I genitori dovrebbero parlare con bambini e adolescenti degli strumenti di immagine dell’intelligenza artificiale e dei suggerimenti dei social media, e insegnare loro a segnalare contenuti, chiudere l’app e dirlo a un adulto fidato. Le piattaforme potrebbero fallire, ma le segnalazioni tempestive e le conversazioni chiare a casa rimangono uno dei modi più efficaci per proteggere i bambini online.
👉 Dai un’occhiata alle offerte Amazon di oggi!
