Quelle est la technologie émergente la plus dangereuse ?

Quelle est la technologie émergente la plus dangereuse ? Ceux qui sont enclins à penser de manière apocalyptique savent que la technologie, dans sa forme la plus pure, est synonyme de désastre civilisationnel. Il est vrai que nous ne verrons peut-être jamais un monde rempli de bébés CRISPR hypertrophiques violents, de voitures autonomes incontrôlables et d'une IA déterminée à transformer les humains en trombones . Notre fin accélérée par la technologie, si et quand elle arrivera, sera probablement un peu différente et sucera probablement d'une manière que nous ne pouvons pas encore imaginer. En attendant, cependant, cela vaut la peine de se demander : quelle est la technologie émergente la plus dangereuse ? Pour Giz Asks de cette semaine , nous avons contacté un certain nombre d'experts pour le savoir. - poolsuppliers

Illustration : Benjamin Currie/Gizmodo

Ceux qui sont enclins à penser de manière apocalyptique savent que la technologie, dans sa forme la plus pure, est synonyme de désastre civilisationnel. Il est vrai que nous ne verrons peut-être jamais un monde rempli de bébés CRISPR hypertrophiques violents, de voitures autonomes incontrôlables et d’une IA déterminée à transformer les humains en trombones . Notre fin accélérée par la technologie, si et quand elle arrivera, sera probablement un peu différente et sucera probablement d’une manière que nous ne pouvons pas encore imaginer. En attendant, cependant, cela vaut la peine de se demander : quelle est la technologie émergente la plus dangereuse ? Pour Giz Asks de cette semaine , nous avons contacté un certain nombre d’experts pour le savoir.


Enseignement du zéphyr

Professeur agrégé, Droit, Fordham University

Surveillance du lieu de travail privé. Cela bouleverse la dynamique de pouvoir employeur-employé déjà terrible en permettant aux employeurs de traiter les employés comme des cobayes, avec de vastes asymétries d’information, en sachant ce qui les motive à travailler de manière malsaine et comment ils peuvent extraire plus de valeur pour un salaire moindre. Cela leur permet d’éliminer les dissidents grâce à des systèmes d’alerte précoce et de détruire la solidarité par un traitement différencié. La recherche sur le jeu a appris aux casinos comment créer des profils de jeu pour personnaliser les appels afin de pouvoir gagner autant que possible sur les faiblesses de chaque joueur – cette technologie, qui entre maintenant sur le marché du travail, est sur le point d’être omniprésente, à moins que nous ne l’arrêtions.

Michel Litman

Professeur, Informatique, Université Brown

Le rapport AI100 2021, publié le mois dernier, comprenait une section sur les dangers les plus pressants de l’intelligence artificielle (IA). Le panel de 17 experts a exprimé l’avis que, alors que les systèmes d’IA s’avèrent de plus en plus bénéfiques dans les applications du monde réel, ils ont élargi leur portée, entraînant la prolifération des risques d’utilisation abusive, de surutilisation et d’abus explicites.

L’une des plus grandes préoccupations du panel à propos de l’IA est le “techno-solutionnisme”, l’attitude selon laquelle la technologie comme l’IA peut être utilisée pour résoudre n’importe quel problème. L’aura de neutralité et d’impartialité que de nombreuses personnes associent à la prise de décision en matière d’IA fait que les systèmes sont acceptés comme objectifs et utiles, même s’ils peuvent être appliqués de manière inappropriée et peuvent être construits sur les résultats de décisions historiques biaisées ou même d’une discrimination flagrante. Sans transparence concernant les données ou les algorithmes d’IA qui les interprètent, le public peut être laissé dans l’ignorance quant à la manière dont les décisions qui ont un impact matériel sur sa vie sont prises. Les systèmes d’IA sont utilisés au service de la désinformation sur Internet, ce qui leur donne le potentiel de devenir une menace pour la démocratie et un outil pour le fascisme. Une réflexion insuffisante sur les facteurs humains de l’intégration de l’IA a conduit à une oscillation entre la méfiance à l’égard des systèmes basés sur l’IA et une dépendance excessive à l’égard de ces systèmes. Les algorithmes d’IA jouent un rôle dans les décisions concernant la distribution d’organes, de vaccins et d’autres éléments des soins de santé, ce qui signifie que ces approches ont des enjeux littéraux de vie ou de mort.

Les dangers de l’automatisation de l’IA sont atténués si, sur des questions importantes, les personnes et les organisations responsables des résultats jouent un rôle central dans la manière dont les systèmes d’IA sont mis à contribution. L’engagement de toutes les parties prenantes concernées peut considérablement ralentir la fourniture de solutions d’IA à des problèmes difficiles, mais c’est nécessaire – les inconvénients d’une technologie mal appliquée sont trop importants. Les technologues auraient tout intérêt à adopter une version du dicton des soins de santé : premièrement, ne pas nuire.

David Shumway Jones

Professeur, Épidémiologie, Université de Harvard

Il y a clairement de nombreux prétendants au titre de technologie émergente la plus dangereuse. CRISPR et d’autres technologies d’édition de gènes pourraient faire des ravages, bien qu’elles puissent s’avérer moins puissantes que ne le promettent leurs partisans. Les médias sociaux ont déjà démontré leur pouvoir de causer des dommages considérables. Mais celui qui me dérange le plus est en fait le déploiement généralisé de la reconnaissance faciale dans les technologies de surveillance. À bien des égards, cette technologie pourrait être un atout considérable pour les sociétés. La reconnaissance faciale pourrait rendre de nombreuses transactions plus efficaces. Il ne serait pas nécessaire de montrer une pièce d’identité ou une carte d’embarquement dans un aéroport, ni de proposer un paiement dans un magasin (tant que votre image est liée à une plateforme de paiement en ligne). La reconnaissance faciale pourrait également rendre la société plus sûre en augmentant la probabilité que les suspects criminels soient identifiés et appréhendés. Alors comment ces technologies pourraient-elles devenir dangereuses ? Une crainte est existentielle : nos déplacements ne seront plus privés. Quelqu’un aura toujours la capacité de savoir où nous sommes et où nous avons été. Même si personne n’utilise ces informations à mauvais escient, la perte de confidentialité et d’anonymat me semble significative. Une autre crainte est l’abus : le risque d’utilisation abusive de ces informations est réel. Quiconque a accès à l’information pourrait certainement l’utiliser à des fins néfastes. Les harceleurs, des amants abandonnés aux gouvernements autoritaires, pourraient s’amuser avec leur nouvelle capacité à surveiller où nous allons et qui nous rencontrons, et même à prédire ce que nous pourrions faire ensuite. Et je soupçonne que je n’ai imaginé qu’une petite partie des façons dont ces technologies de surveillance pourraient être détournées. nos déplacements ne seront plus privés. Quelqu’un aura toujours la capacité de savoir où nous sommes et où nous avons été. Même si personne n’utilise ces informations à mauvais escient, la perte de confidentialité et d’anonymat me semble significative. Une autre crainte est l’abus : le risque d’utilisation abusive de ces informations est réel. Quiconque a accès à l’information pourrait certainement l’utiliser à des fins néfastes. Les harceleurs, des amants abandonnés aux gouvernements autoritaires, pourraient s’amuser avec leur nouvelle capacité à surveiller où nous allons et qui nous rencontrons, et même à prédire ce que nous pourrions faire ensuite. Et je soupçonne que je n’ai imaginé qu’une petite partie des façons dont ces technologies de surveillance pourraient être détournées. nos déplacements ne seront plus privés. Quelqu’un aura toujours la capacité de savoir où nous sommes et où nous avons été. Même si personne n’utilise ces informations à mauvais escient, la perte de confidentialité et d’anonymat me semble significative. Une autre crainte est l’abus : le risque d’utilisation abusive de ces informations est réel. Quiconque a accès à l’information pourrait certainement l’utiliser à des fins néfastes. Les harceleurs, des amants abandonnés aux gouvernements autoritaires, pourraient s’amuser avec leur nouvelle capacité à surveiller où nous allons et qui nous rencontrons, et même à prédire ce que nous pourrions faire ensuite. Et je soupçonne que je n’ai imaginé qu’une petite partie des façons dont ces technologies de surveillance pourraient être détournées. la perte de la vie privée et de l’anonymat me semble significative. Une autre crainte est l’abus : le risque d’utilisation abusive de ces informations est réel. Quiconque a accès à l’information pourrait certainement l’utiliser à des fins néfastes. Les harceleurs, des amants abandonnés aux gouvernements autoritaires, pourraient s’amuser avec leur nouvelle capacité à surveiller où nous allons et qui nous rencontrons, et même à prédire ce que nous pourrions faire ensuite. Et je soupçonne que je n’ai imaginé qu’une petite partie des façons dont ces technologies de surveillance pourraient être détournées. la perte de la vie privée et de l’anonymat me semble significative. Une autre crainte est l’abus : le risque d’utilisation abusive de ces informations est réel. Quiconque a accès à l’information pourrait certainement l’utiliser à des fins néfastes. Les harceleurs, des amants abandonnés aux gouvernements autoritaires, pourraient s’amuser avec leur nouvelle capacité à surveiller où nous allons et qui nous rencontrons, et même à prédire ce que nous pourrions faire ensuite. Et je soupçonne que je n’ai imaginé qu’une petite partie des façons dont ces technologies de surveillance pourraient être détournées. pourraient avoir une journée sur le terrain avec leur nouvelle capacité à surveiller où nous allons et qui nous rencontrons, et même à prédire ce que nous pourrions faire ensuite. Et je soupçonne que je n’ai imaginé qu’une petite partie des façons dont ces technologies de surveillance pourraient être détournées. pourraient avoir une journée sur le terrain avec leur nouvelle capacité à surveiller où nous allons et qui nous rencontrons, et même à prédire ce que nous pourrions faire ensuite. Et je soupçonne que je n’ai imaginé qu’une petite partie des façons dont ces technologies de surveillance pourraient être détournées.

Ryan Calo

Professeur de droit, président, président et prévôt du groupe de travail sur la technologie et la société et cofondateur de la faculté du Tech Policy Lab et du Center for an Informed Public de l’Université de Washington

Mon candidat pour la technologie émergente la plus dangereuse est l’informatique quantique. À l’exception peut-être de la rupture du cryptage, les dangers de l’informatique quantique ne sont pas nouveaux. Au contraire, l’informatique quantique accélère les menaces à la vie privée et à l’autonomie qui ont commencé à l’ère du supercalcul. Avec un accès à suffisamment de données et de puissance de traitement, les systèmes informatiques d’aujourd’hui sont de plus en plus capables de déduire l’intime du disponible. Je crains que l’informatique quantique n’aide à guider dans un monde dans lequel chaque gouvernement et entreprise est Sherlock Holmes, devinant tous nos secrets sur la base d’informations que nous ne pensons même pas à cacher.

Amy Webb

Auteur de The Genesis Machine: Our Quest to Rewrite Life in the Age of Synthetic Biology et PDG de Future Today Institute , une société de prospective, de tendances et de planification de scénarios qui aide les dirigeants et leurs organisations à se préparer à des avenirs complexes

La technologie émergente la plus dangereuse est la biologie. Ou plutôt la biologie synthétique, qui a un objectif unique : accéder aux cellules pour écrire un nouveau code biologique, et peut-être meilleur. La biologie synthétique est un domaine scientifique qui applique l’ingénierie, l’intelligence artificielle, la génétique et la chimie pour reconcevoir des parties et des organismes biologiques avec des capacités améliorées et de nouveaux objectifs. Une série de nouvelles technologies et techniques biologiques, qui relèvent largement de la biologie synthétique, nous permettront non seulement de lire et d’éditer le code ADN, mais aussi de l’écrire. Ce qui signifie que bientôt, nous programmerons des structures biologiques vivantes comme s’il s’agissait de minuscules ordinateurs.

La biologie synthétique nous permet de charger des séquences d’ADN dans des outils logiciels. Imaginez Word, mais pour le code ADN, avec des modifications tout aussi simples. Une fois l’ADN écrit ou modifié à la satisfaction d’un chercheur, une nouvelle molécule d’ADN est imprimée à partir de zéro à l’aide d’une imprimante 3D. La technologie de synthèse de l’ADN (transformation du code génétique numérique en ADN moléculaire) s’est améliorée de façon exponentielle. Les technologies d’aujourd’hui impriment régulièrement des chaînes d’ADN de plusieurs milliers de paires de bases qui peuvent être assemblées pour créer de nouvelles voies métaboliques pour une cellule, voire le génome complet d’une cellule.

Qu’est-ce qui pourrait mal se passer? Bientôt, nous pourrons écrire n’importe quel génome viral à partir de zéro. Cela peut sembler une perspective effrayante, étant donné que le SRAS-CoV-2, qui cause le covid-19… Mais les virus ne sont pas nécessairement mauvais. En fait, un virus n’est qu’un conteneur pour le code biologique – à l’avenir, nous pourrions écrire des virus bénéfiques comme thérapies pour les cancers ou certaines maladies.

La biologie synthétique jouera un rôle important dans notre crise climatique et notre pénurie imminente de nourriture et d’eau. Cela réduira notre dépendance aux animaux pour les protéines et finira par personnaliser la médecine. Imaginez un avenir dans lequel votre corps agit comme sa propre pharmacie.

Ce qui fait de la biologie synthétique la technologie émergente la plus dangereuse n’est pas la science, c’est nous, les humains. Nous devrons remettre en question nos modèles mentaux, poser des questions difficiles et avoir des discussions rationnelles sur les origines de la vie, sinon nous créerons des risques et raterons des opportunités. Au cours de la prochaine décennie, nous devrons prendre des décisions éclairées sans l’avalanche constante de désinformation ou de politiciens opportunistes qui sont plus intéressés par la réélection que par le bien public. Nous devrons utiliser des données et des preuves – et faire confiance à la science – pour prendre des décisions clés sur l’opportunité de programmer de nouveaux virus pour lutter contre les maladies, à quoi ressemblera la confidentialité génétique et qui devrait “posséder” les organismes vivants.

Vous jouez également un rôle crucial dans la biologie synthétique. Quels choix feriez-vous si vous pouviez reprogrammer votre corps ? Seriez-vous angoissé à savoir s’il faut ou comment éditer vos futurs enfants ? Accepteriez-vous de manger des OGM (organismes génétiquement modifiés) si cela réduisait le changement climatique ? La promesse de la biologie synthétique est un avenir construit par la plate-forme de fabrication la plus puissante et la plus durable que l’humanité ait jamais eue. Nous sommes à l’aube d’une nouvelle évolution industrielle à couper le souffle.

Jeroen van den Hoven

Professeur d’éthique et de technologie, Université de technologie de Delft et co-auteur de Evil Online

Je pense que les technologies les plus dangereuses sont en quelque sorte les technologies sociales ou cognitives qui empêchent les gens d’avoir une vision claire du monde et des besoins des autres. Ces technologies sont souvent propices à la déshumanisation et invitent les gens à devenir des individus obsédés par eux-mêmes et irréfléchis. Ils sont comme des machines à brouillard qui créent les conditions qui permettent de renoncer, de nier ou de fermer les yeux sur notre humanité commune et notre responsabilité humaine. Ce sont des technologies de mauvaise foi. Ceux qui y travaillent sont souvent instrumentalisés par d’autres et naïfs, complices coupables ou passés maîtres dans l’orchestration d’un déni plausible pour toute la misère et la souffrance futures qui pourraient en découler.

La façon dont les technologies numériques – dans leurs applications sociales et en ligne – ont contribué à créer un chaos épistémique est, je pense, l’une de nos menaces les plus graves. Les risques et les dangers des technologies peuvent être facilement minimisés, obscurcis et niés, de sorte que la plupart pensent qu’il n’y a rien de mal. Les avantages et les avantages d’autres technologies peuvent être mal perçus. Despotes et méchants glorifiés, héros et sauveurs diabolisés. Comme disait Voltaire : “Ceux qui peuvent vous faire croire à des absurdités peuvent vous faire commettre des atrocités.”

Ceux qui n’ont pas renoncé à essayer de se décider sur la meilleure façon de lutter contre le changement climatique, de comprendre comment lutter contre la pandémie, de tenir à distance les armes mortelles autonomes, d’empêcher les décisions de triage basées sur l’IA à l’hôpital ou l’incubation ciblée de rêves dans le marketing et dénoncer les contrefaçons profondes, ont beaucoup de mal à découvrir ce qui est vrai et moralement acceptable. Beaucoup d’autres, je le crains, ont renoncé à essayer de comprendre ce que nous devrions faire et sont devenus dociles ou complaisants.

L.Syd M Johnson

Professeur agrégé, Centre de bioéthique et sciences humaines, SUNY Upstate Medical University

La xénotransplantation, c’est-à-dire la transplantation d’organes et de tissus d’une espèce animale à une autre, a longtemps été considérée comme une solution potentielle à la pénurie chronique d’organes transplantables. Des milliers de personnes aux États-Unis seulement sont sur des listes d’attente pour recevoir un organe vital. Certains ne survivront pas à l’attente. Des années 1960 aux années 1990, il y a eu de nombreuses tentatives de transplantation d’organes de primates non humains – principalement des babouins et des chimpanzés – sur des receveurs humains. À ce jour, aucun patient n’a survécu à une xénogreffe d’organe solide. Certains sont morts en quelques heures, d’autres en quelques jours ou semaines. Le rejet, et le rejet hyperaigu potentiellement catastrophique, lorsque le système immunitaire du corps monte une attaque violente contre un organe, en est une des raisons.

Le risque de rejet augmente lorsque les espèces sont discordantes, comme les humains et les porcs qui sont séparés par 80 millions d’années de divergence évolutive. Mais les porcs sont actuellement privilégiés comme sources d’organes parce qu’ils sont faciles à élever, qu’ils produisent des organes de la bonne taille pour les humains et qu’ils sont tués par centaines de millions chaque année pour la viande, ce que certains interprètent comme une autorisation morale de les tuer pour les organes. ainsi que.

La proximité évolutive et génétique d’autres primates non humains avec l’homme augmente le risque d’infection zoonotique, lorsqu’une maladie passe d’une espèce à l’autre. La Food and Drug Administration des États-Unis a effectivement interdit l’utilisation de primates non humains pour la xénotransplantation, invoquant le risque inacceptable de zoonose. Mais les porcs hébergent également des virus similaires à l’homme et sont des sources d’infection zoonotique. En 1998 et 1999, le virus Nipah a provoqué une épidémie d’encéphalite virale chez des éleveurs de porcs en Malaisie, après qu’il se soit propagé à leurs porcs. 100 personnes sont mortes et plus d’un million de porcs ont été abattus.

Le SRAS-CoV-2 est une maladie zoonotique, qui a probablement sauté plusieurs espèces avant d’infecter un humain sur un marché en Chine, déclenchant une pandémie mondiale qui a coûté la vie à des millions de personnes, dévasté les systèmes de santé et provoqué des bouleversements sociaux et économiques mondiaux. Le SRAS-CoV-2 a été trouvé chez des chiens, des chats et des furets domestiques ; chez les chimpanzés, les gorilles, les loutres et les grands félins dans les zoos ; chez le vison en captivité dans les élevages d’animaux à fourrure (entraînant l’abattage de millions d’animaux dans toute l’Europe) ; et chez le cerf de Virginie vivant en liberté aux États-Unis.

Le danger de zoonose par xénotransplantation est suffisamment grave pour que de nombreuses organisations recommandent une surveillance à vie des receveurs humains, de leurs contacts étroits et des travailleurs de la santé impliqués dans les xénotransplantations. Cette surveillance ne vise pas à protéger le receveur d’organe, mais à protéger la santé publique. Le risque de déchaîner une nouvelle maladie infectieuse sur le monde modifie les enjeux de la xénotransplantation, et en fait une technologie émergente extrêmement dangereuse. Dans le pire des cas – une autre pandémie mondiale – les conséquences pourraient être dévastatrices et coûter des millions de vies.

Il existe d’autres solutions à la pénurie d’organes, certaines disponibles maintenant, comme l’augmentation du nombre de donneurs humains vivants et décédés, et d’autres en cours de développement (par exemple, la culture d’organes humains in vitro et l’utilisation de la bioimpression 3D pour réparer et régénérer les organes endommagés in vivo ). Aucun d’entre eux ne risque de déclencher une pandémie mondiale. La xénotransplantation reste spéculative après des décennies de recherche et de nombreuses greffes ratées. À l’approche de la troisième année de la pandémie de SRAS-CoV-2, le plus grand risque est mis en évidence et il est difficile d’exagérer les dangers de la poursuite de la xénotransplantation.

Joanna Bryson

Professeur, Éthique et technologie, Hertie School of Governance, Berlin

Je pense que les technologies émergentes les plus dangereuses sont en fait des formes de gouvernance. Nous apprenons tellement sur la société et le contrôle social. Certaines nations utilisent ces informations principalement pour le bien. Mais certains pays l’utilisent pour réprimer et manipuler des minorités ou même des majorités sans pouvoir, et dans tous les cas, cela peut conduire à des génocides et à des atrocités brutales. Nous devons reconnaître maintenant que les atrocités peuvent inclure le « génocide culturel », l’effacement de tous les registres et de l’histoire des peuples, invalidant la vie et l’identité de leurs ancêtres sans nécessairement tuer les gens eux-mêmes, compromettant gravement leur capacité à s’épanouir. De plus, nous assistons à d’énormes actes de destruction contre l’écosystème,

La seule solution à ces problèmes est d’améliorer les formes de gouvernance innovantes qui récompensent et renforcent les comportements coopératifs respectueux des droits fondamentaux. Il est difficile qu’un si grand nombre de technologies soient en fait « à double usage », c’est-à-dire qu’elles puissent être utilisées à n’importe quelle fin. Nous ne pouvons pas nous allonger et être des technodéterministes, croyant que les solutions sont hors de nos mains. La conscience politique et l’engagement à tous les niveaux de la société sont essentiels. Et curieusement, contrairement à ce que beaucoup pensent, nous semblons faire un excellent travail avec les médias sociaux et d’autres outils pour élever les niveaux de prise de conscience de l’état réel de la politique et des preuves scientifiques sur ce qu’elles ont été historiquement. Je crois donc qu’il y a de l’espoir, mais beaucoup de travail à faire.

Elisabeth Hilt

Professeur de philosophie, Illinois Institute of Technology

La technologie émergente la plus dangereuse est une technologie qui échappe au contrôle et à la réglementation humains. Les technologies n’émergent pas d’une manière ou d’une autre miraculeusement d’elles-mêmes, elles ne sont pas dangereuses en elles-mêmes, elles n’ont pas d’intentions dangereuses. Ce sont les humains qui les conçoivent, les façonnent, les construisent et les déploient.

Bien qu’il y ait eu pas mal de spéculations sur l’émergence de futures technologies potentielles d’intelligence artificielle super intelligentes qui pourraient surpasser ou dominer les humains, je pense qu’il existe des moyens beaucoup plus réalistes pour que les technologies émergentes échappent au contrôle.

Une façon dont les technologies émergentes peuvent échapper au contrôle est le manque de transparence et de compréhension où la technologie fonctionne comme une boîte noire, c’est-à-dire une technologie opaque en ce qui concerne sa prise de décision. Un autre est le manque de transparence dans le sens où les fabricants ou les entreprises n’informent pas correctement ou complètement le public sur le fonctionnement d’une technologie et ses implications.

L’implication émotionnelle est un autre moyen pour les humains de perdre le contrôle de la technologie. Plus les humains interagissent intuitivement et émotionnellement avec la technologie, plus il est facile de naviguer dans la technologie. C’est l’une des motivations derrière la conception de robots sociaux et humanoïdes de telle sorte que les humains réagissent et interagissent avec la technologie d’IA incarnée de la même manière qu’ils réagissent et interagissent avec les humains. Cependant, l’attribution d’émotions, d’agentivité et d’autres caractéristiques humaines à une technologie dépourvue de ces capacités peut entraîner une implication émotionnelle unilatérale des humains, ainsi qu’une interaction homme-technologie dominée non par la rationalité, mais par des facteurs émotionnels. Dans ce type d’interaction, l’humain est le partenaire le plus vulnérable.

Avez-vous une question brûlante pour Giz Asks? Envoyez-nous un e-mail à [email protected]

See also  Teknologiloven må oppdateres for å beskytte innbyggere i Illinois