L'Afrique du Sud retire sa politique en matière d'IA après un scandale de fausses références

Écrit par : Mohammed Omran

Suite à un incident qui a suscité une vive controverse sur la fiabilité des technologies d'intelligence artificielle au sein des institutions officielles, le gouvernement sud-africain a été contraint de retirer son projet de politique nationale en matière d'IA après la découverte de fausses références académiques dans le document officiel.

Utilisation des technologies d'intelligence artificielle au sein des institutions officielles

Les analyses ont révélé que plusieurs citations du projet provenaient d'articles inexistants, tandis que les autorités ont suggéré que ces erreurs étaient dues à ce que l'on appelle des “ hallucinations ” de l'intelligence artificielle, ce qui a relancé le débat sur la nécessité d'un contrôle humain strict lors de l'utilisation des technologies modernes dans l'élaboration des politiques gouvernementales.

L'Afrique du Sud retire sa politique en matière d'IA après le scandale des “ fausses références ”.”

Le gouvernement sud-africain a été contraint de retirer son projet de politique nationale en matière d'intelligence artificielle après qu'un examen officiel et médiatique a révélé que de fausses références académiques avaient été incluses dans le document.

De fausses allégations incitent l'Afrique du Sud à retirer son projet de politique en matière d'IA.

Le ministre sud-africain des Communications, Solly Malatsi, a déclaré qu'au moins 6 des 67 citations académiques se sont avérées être des « hallucinations » générées par l'IA, faisant référence à des articles de journaux qui n'existaient pas réellement.

Il a ajouté : « L’explication la plus logique est que les citations générées par l’IA ont été incluses sans vérification suffisante, et cela n’aurait pas dû se produire. ».

De fausses citations font dérailler le projet de politique d'IA de l'Afrique du Sud

Il a souligné : « Ce défaut allait au-delà d'une simple erreur technique, car il a porté atteinte à l'intégrité et à la crédibilité du projet politique, et je tiens à souligner que cet incident a révélé la nécessité d'une surveillance humaine stricte lors de l'utilisation de technologies d'intelligence artificielle dans les documents officiels. ».

Il a expliqué que l'un des journaux avait révélé la présence de fausses références dans le projet politique, notamment des articles attribués à des revues universitaires telles que le South African Journal of Philosophy, Artificial Intelligence and Society et le Journal of Ethics and Social Philosophy.

Cette politique visait à consolider la position de l'Afrique du Sud en tant que chef de file de l'innovation en intelligence artificielle, tout en abordant les implications éthiques, sociales et économiques de cette technologie.

Le ministre s'est engagé à demander des comptes aux responsables de la préparation du document, soulignant qu'il ferait l'objet d'un nouvel examen avant d'être remis au débat public.

Cette crise illustre l'ampleur de la transformation numérique que mènent les gouvernements du monde entier, contrastant avec la nécessité d'établir des contrôles et des normes clairs pour l'utilisation de l'intelligence artificielle dans le travail officiel. La présence de fausses références académiques dans un projet de politique nationale nuit non seulement à l'image de l'entité ayant élaboré le document, mais soulève également des questions quant aux mécanismes d'audit et de contrôle au sein des institutions gouvernementales. Cet incident souligne l'importance de conjuguer les capacités de l'intelligence artificielle aux compétences humaines, afin que l'intelligence artificielle soit utilisée comme une aide et non comme un substitut aux experts et aux relecteurs.