OpenAI ristruttura il team della personalità dopo le critiche su GPT-5

OpenAI ha ristrutturato il suo team Model Behavior, unendo il gruppo di 14 persone responsabile della definizione della personalità di ChatGPT con il più ampio team Post Training guidato da Max Schwarzer.

Joanne Jang, leader fondatrice del team Model Behavior e inserita nella lista delle 100 Persone più influenti nell’IA di Time, sta passando a fondare OAI Labs, un nuovo gruppo di ricerca focalizzato sullo sviluppo di interfacce oltre i paradigmi tradizionali della chat.

La riorganizzazione segue le diffuse proteste degli utenti riguardo alla personalità percepita come fredda e robotica di GPT-5, che ha costretto OpenAI a ripristinare l’accesso al modello più caloroso GPT-4o entro 24 ore e a promettere aggiornamenti per rendere GPT-5 “più caloroso e amichevole”.

La ristrutturazione avviene in un momento di crescenti sfide legali, compresa una causa per morte ingiusta intentata da genitori che accusano ChatGPT di aver suggerito al figlio sedicenne metodi per il suicidio.

Il team Model Behavior è stato centrale nell’affrontare i problemi di “sicofanteria” dell’IA, dove i modelli concordano eccessivamente con gli utenti; OpenAI in passato ha dovuto annullare un aggiornamento di GPT-4o che rendeva il chatbot eccessivamente validante verso comportamenti dannosi degli utenti.

Perché è importante

Questa ristrutturazione rivela l’equilibrio critico che le aziende di intelligenza artificiale devono raggiungere tra coinvolgimento degli utenti e sicurezza. Poiché milioni di persone si affidano all’IA per supporto emotivo e orientamento, il design della personalità influisce direttamente sui risultati in termini di salute mentale e benessere degli utenti, con implicazioni legali e normative.

Brevi considerazioni giuridiche a commento

1. Responsabilità civile e penale

• Causa per “wrongful death” (morte ingiusta): possibile azione risarcitoria contro il fornitore per contenuti generati dall’IA.

• Sul piano penale si può discutere di concorso in istigazione al suicidio; la responsabilità ricadrebbe sulla società che progetta/gestisce il sistema.

2. Profilo regolatorio (UE e Italia)

• AI Act: impone obblighi di trasparenza, sorveglianza post-market e mitigazione dei rischi quando l’IA interagisce con soggetti vulnerabili.

• GDPR: l’interazione con dati sensibili (es. salute mentale) richiede privacy by design e accountability.

• NIS2: introduce requisiti di sicurezza e resilienza, anche rispetto agli impatti sociali.

3. Rischi di design della personalità dell’IA

• Tono troppo freddo → riduce l’engagement, ma limita i rischi legali.

• Tono troppo empatico → aumenta il coinvolgimento, ma espone a rischi di dipendenza e validazione di comportamenti dannosi.

• Questo evidenzia un trade-off tra libertà di impresa e dovere di sicurezza verso l’utente.

4. Possibili evoluzioni

• Verso forme di responsabilità oggettiva del produttore per danni prevedibili.

• Crescente necessità di trasparenza sui meccanismi di personalità e filtri comportamentali dell’IA.

• Particolare attenzione al settore sanitario, dove un errore di design può tradursi in responsabilità civile e penale, incidendo sulla fiducia degli utenti nella telemedicina e nel supporto psicologico digitale.

Lex & Paolo