IA : un ancien chercheur d'OpenAI et d'Anthropic claque la porte et alerte sur les risques

À 27 ans, Jacob Coxon avait le profil que s'arrachent les laboratoires d'intelligence artificielle : trois années passées sur le pré-entraînement, cette étape lourde où un modèle avale des montagnes de données avant d'apprendre à répondre. Ce chercheur britannique a d'abord travaillé chez OpenAI, avant de rejoindre Anthropic, une maison qu'il jugeait plus prudente. Il vient d'annoncer sur X qu'il quittait purement et simplement le secteur.

Son message n'est pas un départ de plus. Il y estime que la trajectoire actuelle des laboratoires est dangereuse et que la course à la puissance a pris le pas sur la sécurité, au point d'évoquer un risque vital pour l'humanité d'ici la fin de la décennie. Venant d'un ingénieur qui a vu les modèles se construire de l'intérieur, l'avertissement pèse plus lourd qu'une tribune d'observateur extérieur.

Ces démissions publiques forment désormais une petite tradition dans la Silicon Valley : depuis deux ans, plusieurs chercheurs ont quitté les grands laboratoires en reprochant à leurs employeurs de sortir des modèles plus vite qu'ils ne savent les évaluer. Chaque fois, la même tension apparaît : d'un côté des équipes de sécurité, de l'autre une pression commerciale qui ne connaît pas de pause.

Pour l'Afrique francophone, le débat n'est pas lointain. Les modèles conçus à San Francisco et à Londres arrivent chez nous par les mêmes applications, les mêmes téléphones et les mêmes API, mais sans les garde-fous, les autorités de régulation ni les langues locales qui permettraient d'en discuter à égalité. Nos usages avancent vite ; nos règles, beaucoup moins.

La question posée par ce départ mérite donc d'être reprise à notre échelle : qui décide de ce qu'une IA peut faire de nos données, de nos administrations et de nos emplois ? Tant que la réponse se joue uniquement dans quelques laboratoires privés, les alertes de leurs propres chercheurs restent notre principal signal d'alarme.

Source : https://www.msn.com/fr-fr/technologie/intelligence-artificielle/l-ia-pourrait-nous-tuer-d-ici-la-fin-de-la-décennie-un-ex-chercheur-chez-openai-et-anthropic-tire-le-signal-d-alarme/ar-AA2bQV0b