Que se passe-t-il lorsque deux intelligences artificielles sont en conflit?

le Intelligence artificielle faire partie de notre avenir, mais que se passe-t-il quand ils se font face?

Depuis des années, nous parlons d’intelligences artificielles, de programmes et de machines capables de prendre nos propres décisions, de s’adapter à l’environnement et aux situations et de savoir comment choisir comment un humain le ferait ou non.

Une grande partie de la soi-disant Intelligence Artificielle que nous avons aujourd’hui est basée sur des algorithmes d’apprentissage et non sur un esprit virtuel vraiment intelligent, mais il existe des projets très intéressants tels que ceux réalisés. DeepMind, le département Google.

La confrontation entre l’intelligence artificielle

Ces derniers temps, nous avons vu certaines des avancées de DeepMind, telles que l’IA qui a expiré dans le jeu Go, mais aussi d’autres développements tels qu’une IA récente qui écrasait les joueurs de poker professionnels. L’intelligence artificielle peut être appliquée à cela, à des choses plus simples comme le contrôle d’un système d’éclairage, ou à d’autres tâches plus complexes et sensibles. cependant, Que se passe-t-il lorsque deux IA ne pensent pas la même chose et entrent en conflit?

peur de l’intelligence artificielle 5

C’est ce qu’ils ont testé dans les expériences de DeepMind: tout comme deux personnes peuvent être en désaccord sur un sujet et prendre des décisions différentes, les chercheurs ont étudié le comportement de l’intelligence artificielle. face à des dilemmes sociaux.

Au cours de l’enquête, que vous pouvez lire sur le blog DeepMind et ce document, nous avons expérimenté un scénario dans lequel deux IA devaient collecter des pommes, autant qu’elles le pouvaient, avec la particularité qu’elles pouvaient électrocuter l’autre IA pour la bloquer temporairement. .

Agressivité ou coopération, selon les règles

Ils ont constaté que s’il restait beaucoup de pommes, les IA se concentraient sur leur cueillette, mais quand elles étaient rares, les éclairs commençaient. La chose a changé lorsqu’ils ont introduit une IA supérieure dans l’environnement, qui a directement commencé à électrocuter le reste avant de cueillir des pommes, comme pour comprendre qu’il valait mieux être agressif à tout moment pour atteindre l’objectif de cueillir des pommes.

Dans une autre expérience, deux intelligences ont dû en attraper une troisième dans un environnement fermé. Plus les IA sont avancées, plus elles auraient d’intention Parmi eux pour attraper le troisième était plus âgé.

Les chercheurs soutiennent que cela ne signifie pas que l’Intelligence Artificielle veut toujours être agressive pour atteindre l’objectif, mais que, en s’adaptant aux règles qu’ils avaient, ils ont cherché la stratégie la plus efficace et, quand plus ils ont de ressources disponibles, le plus ils en profitent.

Par conséquent, le résultat qu’ils tirent de tout cela est que, si nous voulons que l’IA se comporte comme elle le devrait à l’avenir, et que nous ne soyons pas soumis à une rébellion des machines, nous devons veiller à ce que les règles dans lesquelles ils opèrent sont parfaitement définies.