Le cofondateur de Microsoft, Bill Gates, met en garde contre les risques extrêmes liés à l’utilisation de systèmes d’intelligence artificielle avancés par des acteurs malveillants. Dans une interview à NBC, il a appelé les développeurs à mettre en place des dispositifs de protection obligatoires et à ouvrir le dialogue avec les autorités.
Le cofondateur de Microsoft et philanthrope Bill Gates alerte sur les risques que pourrait représenter l’intelligence artificielle si des outils très puissants étaient utilisés à des fins malveillantes. Dans une interview accordée à l’émission « Meet the Press » de NBC, il a évoqué la possibilité d’événements catastrophiques pouvant causer jusqu’à un milliard de morts.
Cette estimation décrit un scénario potentiel avancé par Gates, et non un bilan constaté ni une prévision datée. Il appelle les développeurs d’IA à prendre des mesures de protection et de surveillance, estimant que l’autorégulation volontaire du secteur ne suffit pas.
Des dispositifs de sécurité obligatoires
« Il faut que les forces de l’ordre et les responsables politiques entament la discussion sur les mesures de protection et de surveillance à mettre en place », a déclaré Gates à NBC. « Et cela doit être obligatoire. »
Il reconnaît que de nouvelles règles pourraient entraîner des coûts supplémentaires pour les entreprises du secteur. Il estime toutefois que ces dépenses ne devraient pas nécessairement ralentir de manière importante le développement de l’intelligence artificielle.
Le risque d’une utilisation malveillante
Gates a également insisté sur les dangers que pourrait entraîner l’accès à des outils d’IA avancés par des personnes mal intentionnées. Il a décrit la combinaison de ces acteurs et des technologies les plus récentes comme une menace d’une puissance inédite.
Selon lui, ces outils pourraient être suffisamment puissants pour contribuer à des événements causant un très grand nombre de victimes, jusqu’à un milliard dans le scénario qu’il a évoqué.
Un simple bouton d’arrêt ne suffirait pas
Interrogé sur l’idée d’un « bouton d’arrêt d’urgence » permettant de désactiver les systèmes d’IA s’ils devenaient trop puissants, Gates a estimé que cette solution ne couvrirait pas l’ensemble des risques.
Il a notamment déclaré que les systèmes actuels n’ont pas encore atteint le stade où ils peuvent prendre le contrôle des ordinateurs de façon autonome et empêcher leur propre arrêt. Pour lui, la question des garde-fous doit donc dépasser la seule possibilité de couper un système.
Un débat déjà présent dans le secteur technologique
Ces déclarations s’inscrivent dans la continuité d’un essai publié par Gates le mois précédent, dans lequel il évoquait les dangers potentiels de systèmes d’IA de plus en plus performants. Il conserve par ailleurs une vision globalement optimiste du potentiel de la technologie, tout en plaidant pour des mesures de sécurité adaptées à son évolution.
D’autres figures du secteur, dont Sam Altman, dirigeant d’OpenAI, et Elon Musk, dirigeant de Tesla, ont également exprimé des inquiétudes concernant les risques associés à l’IA avancée et appelé à un contrôle accru de son développement.
