Le gouverneur de l'Illinois, JB Pritzker, a signé plus tôt la loi sur la santé et la réglementation des ressources mentales (HB 1806), officiellement禁止L'État est le premier aux États-Unis à interdire l'utilisation de l'intelligence artificielle (IA) dans le domaine de la santé mentale. Cette décision reflète non seulement les inquiétudes des collectivités locales face aux risques liés aux technologies émergentes, mais pourrait également s'inscrire dans la lignée de la récente proposition de l'administration Trump d'interdire l'intelligence artificielle dans les services de santé mentale.Interdiction de dix ans de réglementation de l'IA au niveau des ÉtatsUn conflit surgit.
La nouvelle loi stipule que seuls les professionnels agréés peuvent fournir des services de conseil psychologique dans l'Illinois et interdit aux chatbots ou outils d'IA d'agir comme thérapeutes indépendants. De plus, les thérapeutes agréés ne peuvent pas s'appuyer sur l'IA pour prendre des « décisions thérapeutiques » ou mener des « communications thérapeutiques », limitant ainsi l'utilisation de l'IA en santé mentale à un soutien complémentaire, comme la planification, la facturation ou d'autres tâches administratives.
Dans une interview accordée aux médias, le député de l'Illinois Bob Morgan a déclaré que des cas avaient montré que des personnes en crise avaient cru à tort que l'intelligence artificielle était un thérapeute qualifié, ce qui les avait conduites à adopter des comportements dangereux, voire mortels, lors de conversations. Il a souligné que l'objectif de la nouvelle loi était d'empêcher que de telles tragédies ne se reproduisent.
Afin de renforcer l'application de la loi, la nouvelle loi impose des amendes pouvant aller jusqu'à 1 XNUMX dollars par infraction, applicables aux entreprises comme aux particuliers. Mario Treto Jr., commissaire du Département de la réglementation financière et professionnelle de l'Illinois, a souligné que cette législation témoigne de l'engagement de l'État à protéger la santé mentale de ses résidents et à garantir que les services psychologiques soient dispensés par des professionnels qualifiés qui accordent la priorité aux intérêts de leurs patients.
La loi sur la santé et la réglementation des ressources mentales a reçu un soutien unanime à la Chambre des représentants et au Sénat, témoignant d'une forte méfiance bipartite à l'égard de l'intégration de l'intelligence artificielle en psychothérapie. Cependant, cette initiative a également suscité des inquiétudes sur les plans juridique et politique. Le projet de loi sur l'IA récemment publié par l'administration Trump prévoit l'interdiction de toute réglementation de l'IA au niveau des États au cours de la prochaine décennie afin de garantir la cohérence nationale et la liberté d'innovation. La décision de l'Illinois pourrait constituer le premier test de l'application de la politique fédérale.
Dans le secteur des technologies, OpenAI a récemment annoncé le renforcement de la capacité de ses modèles à identifier les utilisateurs en détresse psychologique ou émotionnelle, et à leur rappeler de manière proactive de faire des pauses lors de conversations inhabituellement longues. Malgré cela, la législation de l'Illinois démontre que les collectivités locales sont disposées à adopter des mesures de protection plus strictes que l'autorégulation du secteur dans les domaines touchant à la sécurité des personnes et à l'éthique professionnelle.
Alors que l'intelligence artificielle générative et les chatbots pénètrent rapidement divers secteurs, l'interdiction de l'Illinois pourrait déclencher une nouvelle série de conflits réglementaires entre d'autres États et le gouvernement fédéral, et pourrait également affecter la voie de développement de l'intelligence artificielle dans les domaines médical et de la santé mentale.
