Avertissement de Yuval Harari à Davos

Un site utilisant WordPress

Avertissement de Yuval Harari à Davos

Alors que nous entrons dans la troisième décennie du XXIe siècle, l’humanité est confrontée à tant de problèmes et de questions qu’il est vraiment difficile de savoir sur quoi se concentrer. Je voudrais donc utiliser les vingt prochaines minutes pour nous aider à nous concentrer sur tous les différents problèmes auxquels nous sommes confrontés. Trois problèmes posent des défis existentiels à notre espèce.

Ces trois défis existentiels sont la guerre nucléaire, l’effondrement écologique et les perturbations technologiques. Nous devons nous concentrer sur eux.

Maintenant que la guerre nucléaire et l’effondrement écologique sont déjà des menaces familières, permettez-moi de passer un peu de temps à expliquer la menace moins familière que représentent les perturbations technologiques.

À Davos, nous entendons tellement parler des énormes promesses de la technologie – et ces promesses sont certainement réelles. Mais la technologie peut également perturber la société humaine et le sens même de la vie humaine de nombreuses manières, allant de la création d’une classe mondiale inutile à la montée du colonialisme des données et des dictatures numériques.

Premièrement, nous pourrions faire face à des bouleversements sur le plan social et économique.

L’automatisation éliminera bientôt des millions et des millions d’emplois, et même si de nouveaux emplois seront certainement créés, il n’est pas clair si les gens seront en mesure d’acquérir les nouvelles compétences nécessaires assez rapidement. Supposons que vous soyez un conducteur de camion âgé de cinquante ans et que vous venez de perdre votre emploi au profit d’un véhicule autonome. Il y a maintenant de nouveaux emplois dans la conception de logiciels ou dans l’enseignement du yoga aux ingénieurs – mais comment un chauffeur de camion de cinquante ans se réinvente-t-il en tant qu’ingénieur logiciel ou professeur de yoga? Et les gens devront le faire non seulement une fois, mais encore et encore tout au long de leur vie, car la révolution de l’automatisation ne sera pas un événement décisif unique à la suite duquel le marché du travail se stabilisera, vers un nouvel équilibre. Il s’agira plutôt d’une cascade de perturbations de plus en plus importantes, car l’IA est loin d’atteindre son plein potentiel.

Les anciens emplois disparaîtront, de nouveaux emplois apparaîtront, mais les nouveaux emplois changeront rapidement et disparaîtront. Alors que dans le passé l’homme devait lutter contre l’exploitation, au XXIe siècle, la lutte vraiment importante sera contre la non-pertinence. Et il est bien pire d’être hors de propos qu’exploité.

Ceux qui échouent dans la lutte contre la non-pertinence constitueraient une nouvelle «classe inutile» – des gens inutiles non du point de vue de leurs amis et de leur famille, mais inutiles du point de vue du système économique et politique. Et cette classe inutile sera séparée par un fossé toujours plus grand de l’élite toujours plus puissante.

La révolution de l’IA pourrait créer une inégalité sans précédent non seulement entre les classes mais aussi entre les pays.

Au dix-neuvième siècle, quelques pays comme la Grande-Bretagne et le Japon se sont d’abord industrialisés et ont ensuite conquis et exploité la majeure partie du monde. Si nous ne faisons pas attention, la même chose se produira au XXIe siècle avec l’IA.

Nous sommes déjà au milieu d’une course aux armements avec l’IA, avec la Chine et les États-Unis en tête, et la plupart des pays sont loin derrière. À moins que nous ne prenions des mesures pour répartir les avantages et le pouvoir de l’IA entre tous les humains, l’IA créera probablement une immense richesse dans quelques centres de haute technologie, tandis que d’autres pays feront faillite ou deviendront des colonies de données exploitées.

Maintenant, nous ne parlons pas ici d’un scénario de science-fiction de robots se rebellant contre les humains. Nous parlons d’une IA beaucoup plus primitive, ce qui est néanmoins suffisant pour perturber l’équilibre mondial.

Imaginez ce qui arrivera aux économies en développement une fois qu’il sera moins cher de produire des textiles ou des voitures en Californie qu’au Mexique? Et qu’adviendra-t-il de la politique dans votre pays dans vingt ans, quand quelqu’un à San Francisco ou Pékin connaît toute l’histoire médicale et personnelle de chaque politicien, de chaque juge et de chaque journaliste de votre pays, y compris toutes leurs escapades sexuelles, toutes leurs faiblesses mentales et toutes leurs transactions corrompues? Sera-ce encore un pays indépendant ou deviendra-t-il une colonie de données?

Lorsque vous avez suffisamment de données, vous n’avez pas besoin d’envoyer des soldats pour contrôler un pays.

Parallèlement aux inégalités, l’autre danger majeur auquel nous sommes confrontés est la montée des dictatures numériques, qui surveilleront tout le monde tout le temps.

Ce danger peut être énoncé sous la forme d’une simple équation, qui, je pense, pourrait être l’équation déterminante de la vie au XXIe siècle:

B x C x D = AHH!

Ce qui signifie? La connaissance biologique multipliée par la puissance de calcul multipliée par les données équivaut à la capacité de pirater les humains, ahh.

Si vous connaissez suffisamment la biologie et avez suffisamment de puissance de calcul et de données, vous pouvez pirater mon corps et mon cerveau et ma vie, et vous pouvez mieux me comprendre que je ne me comprends moi-même. Vous pouvez connaître mon type de personnalité, mes opinions politiques, mes préférences sexuelles, mes faiblesses mentales, mes peurs et mes espoirs les plus profonds. Vous en savez plus sur moi que sur moi-même. Et vous pouvez le faire non seulement pour moi, mais pour tout le monde.

Un système qui nous comprend mieux que nous ne nous comprenons peut prédire nos sentiments et nos décisions, peut manipuler nos sentiments et nos décisions, et peut finalement prendre des décisions pour nous.

Dans le passé, de nombreux gouvernements et tyrans voulaient le faire, mais personne ne comprenait assez bien la biologie et personne n’avait assez de puissance de calcul et de données pour pirater des millions de personnes. Ni la Gestapo ni le KGB ne pouvaient le faire. Mais bientôt, au moins certaines sociétés et certains gouvernements seront en mesure de pirater systématiquement tout le monde. Nous, les humains, devons nous habituer à l’idée que nous ne sommes plus des âmes mystérieuses – nous sommes maintenant des animaux piratables. Voilà ce que nous sommes.

Le pouvoir de pirater les humains peut être utilisé à de bonnes fins – comme fournir de bien meilleurs soins de santé. Mais si ce pouvoir tombe entre les mains d’un Staline du XXIe siècle, le résultat sera le pire régime totalitaire de l’histoire de l’humanité. Et nous avons déjà un certain nombre de candidats pour l’emploi de Staline au XXIe siècle.

Imaginez la Corée du Nord dans vingt ans, alors que tout le monde doit porter un bracelet biométrique qui surveille en permanence votre tension artérielle, votre fréquence cardiaque, votre activité cérébrale vingt-quatre heures par jour. Vous écoutez un discours à la radio du grand chef et ils savent ce que vous ressentez réellement. Vous pouvez applaudir et sourire, mais si vous êtes en colère, ils savent que vous serez dans le goulag demain.

Et si nous permettons l’émergence de tels régimes de surveillance totale, ne pensez pas que les riches et les puissants dans des endroits comme Davos seront en sécurité, demandez simplement à Jeff Bezos. En URSS de Staline, l’État surveillait les membres de l’élite communiste plus que quiconque. Il en sera de même pour les futurs régimes de surveillance totale. Plus vous êtes haut dans la hiérarchie – plus vous serez surveillé de près.

Voulez-vous que votre PDG ou votre président sache ce que vous pensez vraiment d’eux?

Il est donc dans l’intérêt de tous les humains, y compris les élites, d’empêcher la montée de telles dictatures numériques. Et en attendant, si vous recevez un message WhatsApp suspect, de la part d’un prince, ne l’ouvrez pas.

Maintenant, si nous empêchons effectivement l’établissement de dictatures numériques, la capacité de pirater les humains pourrait encore miner le sens même de la liberté humaine. Parce que les humains compteront sur l’IA pour prendre de plus en plus de décisions pour nous, l’autorité passera des humains aux algorithmes et cela se produit déjà.

Déjà aujourd’hui, des milliards de personnes font confiance à l’algorithme Facebook pour nous dire ce qui est nouveau, l’algorithme Google nous dit ce qui est vrai, Netflix nous dit quoi regarder, et les algorithmes Amazon et Alibaba nous disent quoi acheter.

Dans un avenir pas si lointain, des algorithmes similaires pourraient nous dire où travailler et qui se marier, et décider également de nous embaucher pour un emploi, de nous accorder un prêt et si la banque centrale devrait augmenter le taux d’intérêt .

Et si vous demandez pourquoi vous n’avez pas reçu de prêt et pourquoi vous, la banque, n’avez pas augmenté le taux d’intérêt, la réponse sera toujours la même – car l’ordinateur dit non. Et comme le cerveau humain limité manque de connaissances biologiques, de puissance de calcul et de données suffisantes – les humains ne pourront tout simplement pas comprendre les décisions de l’ordinateur.

Ainsi, même dans des pays supposés libres, les humains sont susceptibles de perdre le contrôle de nos propres vies et de perdre la capacité de comprendre les politiques publiques.

Déjà maintenant combien d’humains comprennent le système financier? Peut-être un pour cent pour être très généreux. Dans quelques décennies, le nombre d’humains capables de comprendre le système financier sera exactement nul.

Maintenant, nous, les humains, sommes habitués à considérer la vie comme un drame de prise de décision. Quel sera le sens de la vie humaine, lorsque la plupart des décisions seront prises par des algorithmes? Nous n’avons même pas de modèles philosophiques pour comprendre une telle existence.

Le marché habituel entre les philosophes et les politiciens est que les philosophes ont beaucoup d’idées fantaisistes, et les politiciens expliquent essentiellement qu’ils n’ont pas les moyens de mettre en œuvre ces idées. Maintenant, nous sommes dans une situation opposée. Nous sommes confrontés à une faillite philosophique.

Les deux révolutions de l’infotech et de la biotechnologie donnent maintenant aux politiciens les moyens de créer le paradis ou l’enfer, mais les philosophes ont du mal à conceptualiser à quoi ressembleront le nouveau paradis et le nouvel enfer. Et c’est une situation très dangereuse.

Si nous ne parvenons pas à conceptualiser le nouveau ciel assez rapidement, nous pourrions être facilement induits en erreur par des utopies naïves. Et si nous ne parvenons pas à conceptualiser le nouvel enfer assez rapidement, nous pourrions nous retrouver coincés là sans issue.

Enfin, la technologie pourrait perturber non seulement notre économie, notre politique et notre philosophie, mais aussi notre biologie.

Dans les décennies à venir, l’IA et la biotechnologie nous donneront des capacités divines pour réorganiser la vie et même créer des formes de vie complètement nouvelles. Après quatre milliards d’années de vie organique façonnées par la sélection naturelle, nous sommes sur le point d’entrer dans une nouvelle ère de vie inorganique façonnée par une conception intelligente.

Notre conception intelligente va être la nouvelle force motrice de l’évolution de la vie et en utilisant nos nouveaux pouvoirs divins de création, nous pourrions faire des erreurs à l’échelle cosmique. En particulier, les gouvernements, les entreprises et les armées sont susceptibles d’utiliser la technologie pour améliorer les compétences humaines dont ils ont besoin – comme l’intelligence et la discipline – tout en négligeant les autres compétences humaines – comme la compassion, la sensibilité artistique et la spiritualité.

Le résultat pourrait être une race d’humains très intelligents et très disciplinés mais manquant de compassion, de sensibilité artistique et de profondeur spirituelle. Bien sûr, ce n’est pas une prophétie. Ce ne sont que des possibilités. La technologie n’est jamais déterministe.

Au XXe siècle, les gens utilisaient la même technologie industrielle pour construire des types de sociétés très différents: dictatures fascistes, régimes communistes, démocraties libérales. La même chose se produira au XXIe siècle.

L’IA et la biotechnologie transformeront certainement le monde, mais nous pouvons les utiliser pour créer des types de sociétés très différents. Et si vous avez peur de certaines des possibilités que j’ai mentionnées, vous pouvez toujours y faire quelque chose. Mais pour faire quelque chose d’efficace, nous avons besoin d’une coopération mondiale.

Les trois défis existentiels auxquels nous sommes confrontés sont des problèmes mondiaux qui exigent des solutions mondiales.

Chaque fois qu’un leader dit quelque chose comme «Mon pays d’abord!», Nous devons rappeler à ce leader qu’aucune nation ne peut empêcher la guerre nucléaire ou arrêter l’effondrement écologique par elle-même, et aucune nation ne peut réglementer seule l’IA et la bio-ingénierie.

Presque tous les pays diront: « Hé, nous ne voulons pas développer des robots tueurs ou concevoir génétiquement des bébés humains. Nous sommes les bons. Mais nous ne pouvons pas faire confiance à nos rivaux pour ne pas le faire. Nous devons donc le faire en premier ».

Si nous permettons à une telle course aux armements de se développer dans des domaines comme l’IA et la bio-ingénierie, peu importe qui remportera la course aux armements – le perdant sera l’humanité.

Malheureusement, juste au moment où la coopération mondiale est plus nécessaire que jamais, certains des dirigeants et des pays les plus puissants du monde sapent maintenant délibérément la coopération mondiale. Des dirigeants comme le président américain nous disent qu’il existe une contradiction inhérente entre le nationalisme et le mondialisme, et que nous devons choisir le nationalisme et rejeter le mondialisme.

Mais c’est une erreur dangereuse. Il n’y a pas de contradiction entre nationalisme et mondialisme. Parce que le nationalisme ne consiste pas à haïr les étrangers. Le nationalisme, c’est aimer ses compatriotes. Et au XXIe siècle, pour protéger la sécurité et l’avenir de vos compatriotes, vous devez coopérer avec les étrangers.

Ainsi, au XXIe siècle, les bons nationalistes doivent être aussi mondialistes. Maintenant, le mondialisme ne signifie pas établir un gouvernement mondial, abandonner toutes les traditions nationales ou ouvrir la frontière à une immigration illimitée. Au contraire, le globalisme signifie un engagement envers certaines règles mondiales.

Des règles qui ne nient pas le caractère unique de chaque nation, mais régissent uniquement les relations entre les nations.

Et un bon modèle est la Coupe du monde de football.

La Coupe du monde est une compétition entre nations, et les gens font souvent preuve d’une loyauté féroce envers leur équipe nationale. Mais en même temps, la Coupe du monde est également une démonstration étonnante de l’harmonie mondiale. La France ne peut jouer au football contre la Croatie que si les Français et les Croates s’accordent sur les mêmes règles de jeu. Et c’est le globalisme en action.

Si vous aimez la Coupe du monde – vous êtes déjà mondialiste.

Avec un peu de chance, les nations pourraient se mettre d’accord sur des règles mondiales non seulement pour le football, mais aussi sur la manière de prévenir l’effondrement écologique, de réglementer les technologies dangereuses et de réduire les inégalités mondiales. Comment s’assurer, par exemple, que l’IA profite aux travailleurs du textile mexicains et pas seulement aux ingénieurs logiciels américains. Maintenant, bien sûr, cela va être beaucoup plus difficile que le football – mais pas impossible. Parce que l’impossible, eh bien nous avons déjà accompli l’impossible.

Nous avons déjà échappé à la jungle violente dans laquelle nous, les humains, avons vécu à travers l’histoire. Pendant des milliers d’années, les humains ont vécu sous la loi de la jungle dans un état de guerre omniprésente. La loi de la jungle a déclaré que pour deux pays voisins, il existe un scénario plausible selon lequel ils entreront en guerre l’année prochaine. Aux termes de cette loi, la paix ne signifiait que «l’absence temporaire de guerre».

Quand il y avait une «paix» entre – disons – Athènes et Sparte, ou la France et l’Allemagne, cela signifiait que maintenant ils ne sont pas en guerre, mais l’année prochaine ils pourraient l’être. Et pendant des milliers d’années, les gens avaient supposé qu’il était impossible d’échapper à cette loi.

Mais au cours des dernières décennies, l’humanité a réussi à faire l’impossible, à enfreindre la loi et à s’échapper de la jungle. Nous avons construit l’ordre mondial libéral fondé sur des règles qui, malgré de nombreuses imperfections, a néanmoins créé l’ère la plus prospère et la plus pacifique de l’histoire de l’humanité.

Le sens même du mot «paix» a changé.

La «paix» ne signifie plus simplement l’absence temporaire de guerre. La paix signifie désormais l’invraisemblance de la guerre.

Il existe de nombreux pays que vous ne pouvez tout simplement pas imaginer entrer en guerre l’année prochaine – comme la France et l’Allemagne. Il y a encore des guerres dans certaines parties du monde. Je viens du Moyen-Orient, alors croyez-moi, je le sais parfaitement. Mais cela ne devrait pas nous aveugler sur la situation globale.

Nous vivons maintenant dans un monde où la guerre tue moins de personnes que le suicide, et la poudre à canon est beaucoup moins dangereuse pour votre vie que le sucre. La plupart des pays – à quelques exceptions notables comme la Russie – ne rêvent même pas de conquérir et d’annexer leurs voisins. C’est pourquoi la plupart des pays peuvent se permettre de dépenser peut-être environ 2% de leur PIB pour la défense, tout en dépensant beaucoup plus pour l’éducation et les soins de santé. Ce n’est pas une jungle.

Malheureusement, nous nous sommes tellement habitués à cette merveilleuse situation que nous la tenons pour acquise et nous devenons donc extrêmement imprudents. Au lieu de tout faire pour renforcer le fragile ordre mondial, les pays le négligent et le sapent même délibérément.

L’ordre mondial est maintenant comme une maison que tout le monde habite et que personne ne répare. Elle peut durer encore quelques années, mais si nous continuons comme ça, elle s’effondrera – et nous nous retrouverons dans la jungle de la guerre omniprésente.

Nous avons oublié ce que c’est, mais croyez-moi en tant qu’historien – vous ne voulez pas y retourner. C’est bien, bien pire que vous ne l’imaginez.

Oui, notre espèce a évolué dans cette jungle et y a vécu et même prospéré pendant des milliers d’années, mais si nous y retournons maintenant, avec les puissantes nouvelles technologies du XXIe siècle, notre espèce va probablement s’anéantir.

Bien sûr, même si nous disparaissons, ce ne sera pas la fin du monde. Quelque chose nous survivra. Peut-être que les rats finiront par prendre le relais et reconstruire la civilisation. Peut-être, alors, les rats apprendront de nos erreurs.

Mais j’espère sincèrement que nous pourrons compter sur les dirigeants réunis ici, et non sur les rats.

Je vous remercie.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.