L’intelligenza artificiale nella salute mentale solleva questioni giuridiche complesse nell’ambito dell’AI Act, del MDR e del GDPR dell’Unione Europea — dalla qualificazione come dispositivo medico alla responsabilità civile.
L’intelligenza artificiale viene sempre più utilizzata per supportare la salute mentale e il benessere psicologico. Dai chatbot conversazionali che offrono assistenza emotiva agli strumenti di IA generativa che analizzano tono e umore, queste soluzioni stanno diventando parte integrante dell’ecosistema della salute digitale.
Ma cosa accade quando l’IA oltrepassa il confine tra semplice supporto al benessere e vera e propria intervento terapeutico? Un chatbot o un assistente digitale possono essere considerati dispositivi medici secondo la normativa europea? E se sì, quali sono le implicazioni in termini di responsabilità e conformità per sviluppatori, operatori sanitari e utenti?
Sono queste le domande che Giulio Coraggio esplora nel nuovo episodio del podcast 🎙️ Diritto al Digitale, intitolato “Quando l’IA diventa ‘medica’: responsabilità legali al confine delle tecnologie di supporto psicologico.”
Nell’episodio, Giulio Coraggio, responsabile del dipartimento italiano di Intellectual Property & Technology dello studio legale globale DLA Piper, analizza come il Regolamento sui Dispositivi Medici (MDR) e l’AI Act europeo interagiscano nei casi in cui i sistemi di IA svolgono funzioni diagnostiche o terapeutiche. Un software che offre consigli psicologici, monitora sintomi o suggerisce trattamenti può essere qualificato come Software as a Medical Device (SaMD) — con conseguenti obblighi stringenti in materia di certificazione, gestione del rischio e sorveglianza post-commercializzazione.
Si affrontano inoltre le conseguenze legali della non conformità, tra cui la responsabilità civile per danni, le sfide legate alla protezione dei dati ai sensi del GDPR e il crescente dibattito sulla dipendenza emotiva e la terapia mediata dall’IA. Poiché l’intelligenza artificiale interagisce sempre più con utenti vulnerabili, diventano essenziali trasparenza, supervisione umana e garanzie etiche.
Questo episodio offre un quadro dettagliato per giuristi, responsabili della compliance e leader tecnologici che si muovono in questa nuova frontiera — dove l’innovazione nella salute mentale incontra la rigorosità della regolamentazione medica.
🎧 Ascolta l’episodio completo di Diritto al Digitale qui sotto.
