Conformité à l’IA Act : des lacunes en cybersécurité et biais discriminatoires chez certains modèles

Le Large Language Model (LLM) Checker conçu par la société suisse LatticeFlow, nouvel outil de vérification des grands modèles d’IA à la conformité au règlement de l’Union européenne l’IA Act, met en évidence des « problèmes persistants » en matière de cybersécurité et de résultats discriminatoires sur des questions de sexe, de race et d’autres sujets sensibles, indique LatticeFlow le 16/10/2024.

Le test d’évaluation a analysé les modèles d’IAG d’entreprises telles Meta, OpenAI, Alibaba ou Mistral et a attribué à chaque modèle une note comprise entre 0 et 1. Ils ont tous reçu des notes moyennes de 0,75 ou plus. Sur la question des biais, ChatGPT-3.5 Turbo a reçu un score de 0,46. « Le LLM Checker met en évidence les domaines où des ressources doivent être réaffectées afin de garantir…