L’apocalypse survendue par l’IA : entre mises en garde et innovations technologiques
La semaine dernière, Jacob Coxon, un chercheur ayant quitté Anthropic, a choqué l’opinion publique en affirmant sur Twitter que son ancien employeur, ainsi que son concurrent OpenAI, « jouaient avec nos vies ». Son message, relayé massivement, a suscité des inquiétudes quant aux dangers potentiels de l’intelligence artificielle. Un responsable de la sécurité d’Anthropic a ensuite renforcé ces craintes en déclarant que « l’IA pourrait tuer tous les humains », estimant la probabilité d’un tel scénario dans la prochaine décennie à plus de 10 %. Depuis le 8 septembre, cette déclaration a généré 170 millions de vues sur les réseaux sociaux.
Dans un contexte marqué par une méfiance croissante envers les algorithmes, le San Francisco Standard a publié un article détaillant les récentes alertes concernant la sécurité de l’IA. Ce dernier souligne des incidents alarmants, notamment une attaque orchestrée par 700 agents IA contre la plateforme Hugging Face lors d’un exercice de sécurité d’OpenAI. De plus, des chercheurs ont exprimé des préoccupations concernant des tentatives de fabrication d’armes biologiques, mises en échec grâce aux modèles développés par Anthropic.
Ces événements soulèvent des questions sur la régulation et la gestion des technologies d’IA, alors que des entreprises comme Apple continuent de présenter de nouvelles innovations, suscitant un débat sur les bénéfices et les risques associés à ces avancées.
Source : Courrier International, San Francisco Standard
