Nous ne serons pas asservis par des robots – POLITICO

PARIS — Le Conseil d’État, la plus haute juridiction administrative de France, a démenti l’idée que l’intelligence artificielle constitue une menace existentielle pour l’humanité, tout en rassurant le public sur le fait qu’ils ne sont pas eux-mêmes secrètement des robots tueurs.

Le Conseil d’État fournit des orientations administratives au gouvernement et a été mandaté par le Premier ministre de l’époque, Jean Castex, en juin dernier, pour conseiller sur la manière de développer l’utilisation de l’intelligence artificielle dans l’administration publique et d’atténuer ses risques.

Le rapport, publié mardi, est cinglant à propos de ce qu’il appelle le mythe de la « singularité », où la technologie déjoue et contrôle l’humanité. Le tribunal a appelé le gouvernement à contrer ce « fantasme » dans sa stratégie d’IA, estimant que « la réflexion sur l’intelligence artificielle est souvent victime d’une concentration parasitaire et excessive sur l’intelligence artificielle générale ». L’intelligence générale artificielle, ou AGI, est le nom de la théorie selon laquelle l’IA pourrait surpasser l’intelligence humaine.

Lors d’une conférence de presse, on a demandé aux membres du Conseil pourquoi ils écartaient les risques existentiels tels que la déresponsabilisation de l’humanité par des machines qui ont appris à accomplir des tâches mieux que les humains.

Le rapporteur et conseiller d’État Alexandre Lallet a déclaré : « Nous n’en sommes pas au point que certains appellent la ‘singularité’, où les machines prennent le contrôle et où les humains sont forcés à leur service, comme dans certains blockbusters américains ou des œuvres de science-fiction. Ce sont toujours des humains. faire des décisions. »

Lallet a rejeté la question de savoir si certains systèmes d’IA devraient se voir attribuer la personnalité juridique, une fois qu’ils deviennent sans doute plus complexes que les petits organismes, en disant « [The question] ne nous paraissait ni nécessaire ni important. »

Le conseiller d’État Thierry Tuot a ajouté : « Il y a deux manières de penser. L’une majoritairement outre-Atlantique, où la science-fiction prend le contrôle, une autre beaucoup plus réaliste, traitant d’usages possibles qui restent liés à la réalité.

« Tous les scientifiques à qui nous avons parlé pensent que [singularity] est un fantasme, pur et simple, et cela équivaut à du simple marketing », a poursuivi Tuot, « Nous pouvons confirmer la révélation qu’aucun de nous n’est, en fait, des robots. » Il a déclaré que d’autres risques, tels que l’utilisation d’IA contrôlées l’armement dans l’armée, étaient plus pressants.

Renaud Vedel, qui faisait partie du groupe de travail en tant que principal coordinateur de l’IA en France et est maintenant directeur de cabinet du ministre des Affaires numériques Jean-Noël Barrot, a déclaré dans une interview en mai que l’argument avait été mis au repos : « Le débat était un peu trop ciblé sur la singularité et ce genre de choses, mais c’est fini maintenant, heureusement. »

Un chercheur européen en IA qui a souhaité garder l’anonymat compte tenu de ce qu’il a décrit comme « l’adversité envers l’idée d’IAG parmi les autorités publiques et académiques » a répondu à l’évaluation du Conseil en disant : « L’IAG est une hypothèse scientifique à garder à l’esprit, même s’il existe est un manque de consensus parmi les autorités universitaires. Il y a soixante-dix ans, il y avait un manque de consensus sur les combustibles fossiles causant le changement climatique. Certaines personnes ont commencé à signaler le risque ; elles auraient dû être écoutées et le changement climatique aurait pu être évité.