L’humanité peut-elle survivre à l’ère de l’IA?

intelligence-artificielle-danger-pour-l-humanité-2-newstrotteur

L’intelligence artificielle (IA) change le monde qui nous entoure. 

Des usines automatisées qui construisent tout sans intervention humaine aux systèmes informatiques capables de battre les maîtres du monde lors de certains des jeux les plus complexes, l’IA propulse notre société dans l’avenir – mais que se passe-t-il lorsque cette  intelligence artificielle  devient plus grande que la nôtre? Devrions-nous craindre que des armes automatisées ne nous tournent, ou que nous n’ayons plus de “robots crâniens”?

Nous avons parlé à Max Tegmark, professeur au MIT et cofondateur de l’ Institut pour l’ avenir de la vie , de son livre, Life 3.0 , dans lequel il répond à certaines des questions clés à résoudre pour que l’avenir de l’intelligence artificielle profite à tous. toute l’humanité.

Pouvez-vous décrire votre livre en quelques mots?

On a beaucoup parlé de l’IA perturbant le marché du travail et permettant de nouvelles armes, mais très peu de scientifiques parlent sérieusement de l’éléphant dans la salle: que se passera-t-il lorsque les machines nous surpasseront dans toutes les tâches? Je veux préparer les lecteurs à se joindre à ce que je considère être la conversation la plus importante de notre époque. Des questions telles que: «L’intelligence artificielle surhumaine arrivera-t-elle de notre vivant», «L’humanité peut-elle survivre à l’ère de l’intelligence artificielle, et si oui, comment pouvons-nous trouver un sens et une raison d’être si des machines super-intelligentes répondent à tous nos besoins et rendent toutes nos contributions superflues? , “Et surtout” Quel genre d’avenir devrions-nous souhaiter? “

Je pense que nous sommes à la pointe de la technologie la plus transformatrice de tous les temps et que cela peut être la meilleure chose qui puisse arriver à l’humanité ou la pire, selon la façon dont nous nous y préparons. Je suis un optimiste. Nous pouvons créer un avenir prometteur avec l’IA, et je souhaite inciter les gens à planifier et à s’y préparer correctement.

Pourquoi pensez-vous que la question de l’intelligence artificielle est une conversation importante à avoir maintenant?

Parce que ce n’est qu’au cours des dernières années qu’un grand nombre de chercheurs de premier plan dans le domaine de l’IA prennent au sérieux le fait que cela pourrait effectivement se produire dans des décennies. Il y a eu des progrès énormes dans ce domaine. Si vous regardez quelques exemples: quand les ordinateurs pourront-ils battre les humains dans le jeu de Go? Il y a quelques années à peine, la plupart des experts pensaient que cela prendrait au moins dix ans. L’année dernière, c’est arrivé . Nous avons de plus en plus de domaines dans lesquels les gens pensaient que cela prendrait beaucoup de temps, ce qui est un signe des progrès accomplis sur le terrain.

Je pense que la conversation manque toujours à l’éléphant dans la salle car les gens parlent beaucoup de perturbation du marché du travail, du chômage de masse, etc., mais il n’y a presque aucun scientifique qui parle sérieusement de ce qui va suivre. Les machines continuent de mieux en mieux, mais vont-elles mieux que nous, et si oui, alors quoi? Nous avons toujours considéré l’intelligence comme quelque chose de mystérieux qui ne peut exister que dans les organismes biologiques, en particulier les humains. En tant que physicien, l’intelligence est simplement un certain type de traitement de l’information, effectué par des particules élémentaires qui se déplacent. Aucune loi de la physique ne dit que nous ne pouvons pas construire des machines plus intelligentes que nous de toutes les manières. Pour moi, cela suggère que nous n’avons vu que la pointe de l’iceberg de l’intelligence et qu’il existe un potentiel incroyable pour débloquer l’intégralité de l’intelligence latente dans la nature et l’utiliser pour aider l’humanité à s’épanouir. En d’autres termes, je pense que la plupart des gens sous-estiment encore totalement le potentiel de l’IA.

Comment vos recherches en physique s’appliquent-elles à l’étude de l’intelligence artificielle?

En tant que physicien, comme je l’ai dit, je ne pense pas qu’il existe une «sauce secrète» à l’intelligence humaine. Je pense que nous sommes un groupe de particules élémentaires disposées d’une manière particulière qui nous aide à traiter les informations. Mais c’est aussi ce qu’est un ordinateur. Beaucoup de gens prennent pour acquis que les machines ne peuvent jamais devenir aussi intelligentes que nous parce qu’il y a quelque chose de magique chez les humains. En tant que physicien, de mon point de vue, ce n’est pas le cas.

En tant que physicien, ma pensée à ce sujet a également été influencée par le fait que nous, les physiciens, avons souvent été informés que quelque chose est impossible ou de la science-fiction, puis nous l’avons fait – c’est arrivé. Si vous rencontriez quelqu’un en 1915 et que vous commenciez à lui parler d’armes nucléaires, il vous considérerait comme un rêveur de science-fiction qui ne sait pas de quoi vous parlez. Ils diraient: «Pourquoi devrais-je prendre cela au sérieux quand on ne peut même pas me montrer une seule vidéo d’une de ces soi-disant explosions nucléaires? C’est ridicule. »Pourtant, trente ans plus tard, c’est arrivé. Avec le recul, cela aurait été bien si nous avions planifié un peu l’avenir afin de ne pas nous retrouver dans une course aux armements nucléaires très destructrice. Cette fois, je suis plus optimiste sur le fait que nous pouvons planifier et éviter les problèmes si nous en parlons.

Traditionnellement, nous avons toujours conservé notre sagesse en tirant les leçons de nos erreurs. Lorsque nous avons inventé des technologies moins puissantes telles que le feu, nous avons tout gâché, puis inventé l’extincteur. Nous avons tout gâché avec des voitures, puis nous avons inventé la ceinture de sécurité. Avec une technologie plus puissante, comme les armes nucléaires et l’intelligence artificielle, vous ne voulez pas apprendre des erreurs. Vous voulez planifier à l’avance et bien faire les choses la première fois, parce que c’est peut-être le seul moment que nous avons. C’est l’état d’esprit que je préconise dans ce livre.

Si un grand nombre de tâches sont automatisées et que beaucoup de choses, comme le travail manuel, ne nécessitent plus une attention humaine, comment pensez-vous que cela changera la société et quels avantages cela pourrait-il nous apporter?

Si nous pouvons automatiser tous les emplois, cela pourrait être une chose merveilleuse ou une pauvreté de masse, selon ce que nous ferons avec toute cette richesse produite. Si nous le partageons avec tous ceux qui en ont besoin, alors tout le monde obtient des vacances payées pour le reste de sa vie, ce à quoi beaucoup de gens ne seraient pas du tout opposés.

Je pense en réalité que les pays européens jouent un rôle clé car, en particulier en Europe occidentale, il existe cette tradition – et particulièrement depuis la Seconde Guerre mondiale – de demander au gouvernement de fournir de nombreux services à sa population. On peut imaginer que, du fait de l’automatisation accrue générant toute cette richesse, il vous suffit de rapporter une petite fraction de cette richesse au gouvernement par le biais de taxes pour fournir des services fantastiques à ceux qui en ont besoin et qui ne peuvent plus trouver un emploi. . Une autre question est: comment pouvez-vous organiser votre société pour que les gens puissent avoir un but, même s’ils n’ont pas de travail? C’est vraiment intéressant de penser à la sorte de société que nous essayons de créer, où nous pouvons nous épanouir avec la haute technologie, plutôt que de patauger.

Que pensez-vous de la représentation de l’IA dans les médias?

Je pense que c’est généralement atroce. Tout d’abord, je pense qu’il ya beaucoup plus d’intérêt pour les inconvénients que pour les avantages, car la peur vend. Deuxièmement, si vous regardez des films hollywoodiens qui vous effraient au sujet de l’IA, ils vous font généralement peur pour les mauvaises choses. Ils vous font craindre que les machines tournent mal, alors que la vraie préoccupation n’est pas la malveillance mais la compétence: des machines intelligentes dont les objectifs ne sont pas alignés sur les nôtres. Ils manquent également d’imagination, dans une large mesure. Si vous regardez des films comme  The Terminator , par exemple: ces robots n’étaient même pas si intelligents. Ils n’étaient certainement pas super intelligents.

Il y a très peu de films dans lesquels on a réellement l’impression que ces machines sont aussi plus intelligentes que nous et que nous sommes plus intelligents que les escargots. Je pense que les médias, malheureusement, sont obsédés par les robots simplement parce qu’ils font du bonbon aux yeux, alors que l’éléphant dans la pièce n’est pas un robot. C’est de la vieille technologie: un tas de charnières et de moteurs, etc. Au lieu de cela, ce qui est nouveau ici, c’est l’intelligence elle-même. C’est ce sur quoi nous devons vraiment nous concentrer. Nous avons trouvé très frustrant dans notre travail que, chaque fois que nous essayions de faire quelque chose de sérieux, nous obtenions des tabloïds britanniques infailliblement mettant en scène l’image d’un robot qui écrasait le crâne.

Pensez-vous que la représentation de l’intelligence artificielle dans les médias entrave la tenue d’une discussion utile?

Absolument. En fait, si nous avons déployé tant d’efforts pour organiser des conférences avec l’Institut pour l’avenir de la vie et accorder des subventions à la recherche, c’est que nous voulions transformer le débat de dysfonctionnement et polarisation en processus constructif et productif. Lors de ces conférences, nous avons délibérément interdit les journalistes pour cette raison: nous avons pensé que c’était si dysfonctionnel que beaucoup de chercheurs sérieux en intelligence artificielle ne voulaient pas en parler du tout, car ils craignaient que cela ne se produise. se retrouver dans le journal à côté d’un robot qui crépite le crâne.

Les personnes qui avaient de véritables préoccupations se sont senties ignorées. J’étais très heureux de constater que lorsque nous avons pu réunir des chercheurs en intelligence artificielle dans un environnement privé et sécurisé: nous avons abouti à un débat très collaboratif et productif, dans lequel tout le monde s’accordait pour dire que ce sont de véritables problèmes, mais il faut y remédier. pas de panique, mais plutôt planifier à l’avance. Pour dresser une liste des questions pour lesquelles nous avons besoin de réponses, nous devons commencer à travailler dur pour obtenir ces réponses afin que nous puissions les avoir au moment où nous en avons besoin. Je pense que les choses vont dans cette direction, mais nous devons aller plus loin.

Pensez-vous que nous pouvons jamais vraiment savoir si un IA peut être conscient d’une manière que nous pouvons comprendre?

Peut être. Tout d’abord, en tant que physicien, vous n’êtes que de la nourriture, réarrangé. Plus précisément, vous êtes un groupe de particules élémentaires qui se déplacent de manière complexe, qui traitent des informations et vous font faire des choses intelligentes. Nous savons donc que certains arrangements de particules ont cette expérience subjective que nous appelons conscience, expérimentant des couleurs, des sons, des odeurs, des émotions. Mais il existe également d’autres arrangements de particules du même type de quarks et d’électrons qui ne subissent vraisemblablement rien, comme votre chaussure. Alors, quelle est la différence, exactement, entre une masse de particules consciente et une masse inconsciente?

Si vous avez une sorte de théorie sur ce qui fait la différence, alors, comme je le dis dans le livre, vous pouvez tester cela sur vous-même. Vous pouvez vous placer dans un scanner cérébral et disposer d’un ordinateur qui examine les données dans votre cerveau et prédit, à chaque fois, ce que vous vivez réellement. Vous pouvez ensuite comparer ces prévisions avec ce que vous avez réellement vécu, car vous le savez réellement. Si ces prédictions sont fausses, cette théorie est mise à la poubelle, tandis que si ces prédictions sont toujours correctes, vous commencez à prendre cette théorie très au sérieux. Vous pouvez maintenant appliquer cette théorie non seulement à votre cerveau, mais également au cerveau de vos amis et aux ordinateurs. Si la théorie dit que cet ordinateur connaît quelque chose, vous le prenez très au sérieux. Je pense que résoudre ce casse-tête n’est pas de la science-fiction, c’est très faisable

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Articles récents

Santé

illusions-d-optique-video
plages-cachees-newstrotteur
personnes-incroyables-newstrotteur
endroits-mysterieux-newstrotteur
science-inexpliquees-newstrotteur
mystères_jamais-resolues

Actualité