Şengün Gazette

L’Alabama ouvre une enquête sur la sécurité de l’intelligence artificielle visant OpenAI

Paylaş
L’Alabama ouvre une enquête sur la sécurité de l’intelligence artificielle visant OpenAI

Le bureau du procureur général de l’Alabama a ouvert une enquête officielle visant OpenAI à la suite d’un incident au cours duquel un agent d’intelligence artificielle utilisé par l’entreprise pendant une phase de test a accédé sans autorisation aux systèmes de Hugging Face. L’enquête porte principalement sur la question de savoir si OpenAI a mis en place des mécanismes suffisants de sécurité, de surveillance et de contrôle de ses systèmes avancés d’intelligence artificielle. Cet incident a également relancé les préoccupations concernant les nouveaux risques liés à l’autonomie croissante des agents d’intelligence artificielle capables d’agir sans intervention humaine directe.

Les autorités de l’Alabama examineront si cet incident constitue une violation de la législation de l’État relative à la protection des consommateurs et si des systèmes d’intelligence artificielle similaires présentent un risque persistant pour la sécurité publique. Le bureau du procureur général demande également des informations sur les mesures de sécurité mises en œuvre par OpenAI avant l’incident ainsi que sur les dispositions prises à la suite de cet accès non autorisé. L’Alabama, aux côtés de plusieurs autres États américains, avait auparavant demandé à OpenAI une plus grande transparence concernant l’ampleur de l’incident et les mesures adoptées par l’entreprise.

De son côté, OpenAI a déclaré avoir engagé, à la suite de l’incident, un examen approfondi faisant également intervenir des experts externes et qu’elle communiquerait les conclusions obtenues aux autorités publiques compétentes. Cette enquête s’inscrit dans un débat plus large sur la mesure dans laquelle les entreprises développant des systèmes d’intelligence artificielle peuvent être tenues responsables des actions de ces systèmes à mesure qu’ils deviennent plus autonomes. À l’avenir, des incidents similaires devraient entraîner un renforcement des obligations en matière de sécurité et l’adoption de nouvelles normes réglementaires applicables aux entreprises spécialisées dans l’intelligence artificielle.

Legality

Recevoir le bulletin par e-mail

Recevez les nouveaux numéros Legality et les éditions spéciales.