OpenAI risponde alla tragedia del sedicenne in California e annuncia un sistema di parental control di Chat GPT, a una settimana dalla denuncia della famiglia del ragazzo, che accusa il chatbot di presunta istigazione al suicidio. L’iniziativa arriva come misura urgente per garantire maggiore sicurezza ai minori e sarà implementata entro il prossimo mese.
In questo articolo
Come funziona il parental control di Chat GPT
Secondo quanto spiegato da OpenAI sul proprio blog, i genitori potranno:
- Collegare il proprio account a quello del figlio adolescente.
- Impostare regole di comportamento adatte all’età, controllando le risposte del chatbot.
- Disattivare alcune funzioni del sistema.
- Ricevere notifiche automatiche quando il modello rileva momenti di grave disagio emotivo del minore.
L’obiettivo dichiarato dall’azienda è ridurre l’“adulazione” dei modelli nei confronti degli utenti e migliorare la capacità di ChatGPT di riconoscere segnali di disagio mentale o emotivo.
Altre misure di sicurezza per Chat GPT
Oltre al parental control, OpenAI ha anticipato ulteriori novità nei prossimi tre mesi. Tra queste, il reindirizzamento di conversazioni sensibili verso un modello di ragionamento più potente, in grado di generare risposte più sicure e coerenti con le linee guida di protezione degli utenti.
Queste misure arrivano in un momento di crescente attenzione sulle responsabilità delle piattaforme di intelligenza artificiale, dopo diversi casi in cui i chatbot sono stati accusati di istigare comportamenti rischiosi o dannosi.
Anche Meta introduce nuove regole per i minori
La mossa di OpenAI si inserisce in un trend più ampio nell’industria dell’AI. Anche Meta, proprietaria di Instagram, Facebook e WhatsApp, ha aggiornato i propri chatbot: ora non potranno avviare conversazioni con gli adolescenti su temi delicati come autolesionismo, suicidio e disturbi alimentari, indirizzandoli invece verso risorse specialistiche.
Una priorità per tutta l’industria dell’intelligenza artificiale
Con l’introduzione del parental control, OpenAI punta a offrire agli adolescenti uno spazio più sicuro, mantenendo al contempo le potenzialità del chatbot. L’industria dell’AI sta così cercando di bilanciare innovazione e responsabilità, garantendo strumenti di prevenzione e protezione senza limitare l’uso creativo della tecnologia.
Leggi anche…
