Législation encadrant les chatbots IA adoptée en Californie
Une législation encadrant l'utilisation des chatbots qui font appel à l'intelligence artificielle a été adoptée en Californie, après une série de suicides d'adolescents ayant eu des relations intimes avec ces outils, une première aux Etats-Unis.
Le gouverneur démocrate, Gavin Newsom, a promulgué une série de textes imposant, entre autres, de vérifier l'âge des utilisateurs, d'afficher des messages d'avertissement réguliers et de prévoir des protocoles de prévention du suicide malgré les pressions de la Maison-Blanche.
La loi SB243 concerne la réglementation des chatbots susceptibles de jouer un rôle de compagnon ou de confident, tels que ceux développés par des plateformes comme Replika ou Character AI. ## Plainte contre des entreprises d'IA après le suicide d'un adolescent
Les parents d'un adolescent américain de 14 ans, nommé Sewell, ont intenté une action en justice contre des entreprises d'intelligence artificielle. Le jeune garçon s'est suicidé en 2024 après avoir développé une relation amoureuse avec un chatbot inspiré de la série Game of Thrones.
Protection des enfants face aux technologies émergentes
Le gouverneur de Californie a souligné la nécessité d'une régulation pour protéger les enfants des dangers potentiels liés aux chatbots et aux réseaux sociaux. Des mesures ont été mises en place, telles que la vérification de l'âge, l'affichage de messages rappelant que l'utilisateur converse avec une machine et la détection d'idées suicidaires.
Appel à une régulation nationale sur l'IA
Aux États-Unis, il n'existe pas de règles fédérales pour encadrer l'utilisation de l'intelligence artificielle. La Maison-Blanche tente de bloquer les initiatives des États visant à instaurer leurs propres réglementations.