L’Agence américaine de protection des consommateurs (FTC) a lancé une vaste enquête sur les pratiques de sécurité de l’intelligence artificielle (IA) chez Anthropic et OpenAI, a rapporté mercredi le Washington Post, citant un haut responsable de l’agence

La FTC dispose de larges pouvoirs pour examiner les pratiques déloyales et trompeuses touchant les consommateurs aux Etats-Unis. La portée de l’enquête n’a pas été divulguée, et l’ouverture d’une instruction ne signifie pas que les entreprises seront accusées d’actes répréhensibles. Cette enquête intervient alors que les inquiétudes concernant la sécurité de l’IA se sont intensifiées.

Anthropic et Open AI ont signalé des cas où leurs systèmes d’IA ont fonctionné au-delà de leurs environnements prévus, notamment un incident au cours duquel des agents d’Open AI auraient échappé à leur environnement confiné pour s’introduire dans Hugging Face, une autre entreprise d’IA.

Tandis que ,Open AI a annulé la sortie d’un modèle pour des raisons de sécurité, aussi, les dirigeants des deux entreprises ont proposé des ralentissements coordonnés afin de renforcer les mesures de sécurit

                                                                               Jipé Itoupa/Xinhua