Visions dangereuses : Comment la quête de l’utopie pourrait conduire à la catastrophe

Les visions de l’utopie sont omniprésentes dans l’histoire occidentale. Ils ont inspiré de grandes œuvres d'art et de littérature, motivé d'innombrables croyants à obéir aux commandements de Dieu et provoqué certains des conflits les plus sanglants de la biographie collective de notre espèce.

Les visions utopiques sont également un élément central du battage médiatique autour de l’intelligence artificielle générale, ou AGI. Dans un article intitulé "Pourquoi l'IA va sauver le monde", le milliardaire de la technologie Marc Andreessen écrit que les systèmes d'IA avancés nous permettront de "relever de nouveaux défis qui auraient été impossibles à relever sans l'IA, depuis la guérison de toutes les maladies jusqu'aux voyages interstellaires". " Le PDG d'OpenAI, Sam Altman, déclare de la même manière qu'avec l'AGI "nous pouvons coloniser l'espace. Nous pouvons faire fonctionner la fusion et [l'énergie] solaire à grande échelle. Nous pouvons guérir toutes les maladies". L’utopisme est partout dans la Silicon Valley.

Le problème est que l’utopie a un revers menaçant. Premièrement, sa poursuite peut causer de graves préjudices à ceux qui font obstacle. C’est pourquoi les fantasmes utopiques ont alimenté certaines des pires atrocités de l’histoire : si les moyens sont justifiés par les fins, et si les fins sont littéralement un monde utopique de valeurs infinies ou astronomiques, alors qu’est-ce qui est exactement hors de propos lorsqu’il arrive-t-il à réaliser ces fins ?

Nous pouvons déjà observer ce type de réflexion dans la course à l’AGI : des entreprises comme OpenAI se sont livrées à des vols massifs de propriété intellectuelle, entraînant de nombreuses poursuites judiciaires, et des systèmes comme ChatGPT sont construits sur l’exploitation brutale des personnes dans les pays du Sud, certains dont 1,32 $ de l'heure pour passer au crible certains des documents les plus horribles du Web. Ces préjudices valent sûrement les bénéfices, étant donné que, selon les mots d’Altman, « nous ne sommes qu’à quelques avancées de l’abondance à une échelle difficile à imaginer ».

En rapport

Deuxièmement, la réalisation de l’utopie pourrait également avoir des conséquences catastrophiques, dans la mesure où la plupart des visions utopiques sont intrinsèquement exclusives. Il y a toujours quelqu’un qui est délibérément laissé de côté dans toute utopie imaginée – un groupe indésirable dont la présence au paradis le disqualifierait comme tel. Si le paradis chrétien devait inclure les athées, par exemple, ce ne serait pas le paradis. Il faut donc toujours se demander à qui s’adresse une vision utopique particulière. Tout le monde ou seulement quelques privilégiés ? Si oui, quelles personnes sont autorisées à entrer et lesquelles sont bannies vers la perdition, voire condamnées à l’anéantissement ?

Il faut toujours se demander à qui s’adresse une vision utopique particulière. Tout le monde ou seulement quelques privilégiés ? Si oui, quelles personnes sont autorisées à entrer et lesquelles sont bannies vers la perdition ?

Même si la croyance religieuse est en déclin rapide en Occident, ce n’est pas le cas de l’utopisme. Il est donc important de comprendre la nature et les dangers potentiels de la pensée utopique. Pour mieux comprendre ces questions, j'ai contacté ma collègue Monika Bielskyte, une brillante consultante en avenir qui compte Universal Studios, DreamWorks et Nike parmi ses anciens clients. Elle a également été consultante sur le film à succès « Black Panther : Wakanda Forever » et, au cours de la dernière décennie, a donné des conférences sur l'avenir lors de grandes conférences médiatiques et technologiques à travers le monde. Subvertissant un terme du gourou de la technologie Kevin Kelly, elle a développé le cadre « protopia futures », qui propose une vision régénératrice et inclusive de l'avenir comme alternative au binaire utopie-dystopie.

Au cours de notre conversation téléphonique, nous avons discuté d'une série de sujets, notamment des origines de la pensée utopique et de la question de savoir si l'élite technologique est de « vrais croyants » ou utilise simplement l'utopisme comme « écran de fumée » pour détourner l'attention de sa destruction de la planète. Cette interview a été éditée pour des raisons de longueur et de clarté.

Je suis devenu très intéressé par cette affirmation selon laquelle l’utopie est intrinsèquement exclusive. Je vous ai entendu dire sur un podcast que les peuples marginalisés sont souvent mieux lotis dans des dystopies imaginaires que dans des utopies. Pourriez-vous développer ?

Ce n’est même pas qu’ils sont mieux lotis dans les dystopies que dans les utopies – ils n’existent littéralement pas dans les utopies ! Presque sans exception, les personnes marginalisées sont purement et simplement effacées de toutes les visions utopiques, à l’exception des plus récentes. Le seul endroit où les peuples marginalisés existent dans les visions de science-fiction et futuristes est celui des dystopies (et leur présence est souvent perçue comme un signifiant de dystopie), car il n'y a littéralement aucune place pour eux dans l'utopie, étant donné l'eugénisme et l'exclusion. nature de l'utopisme. Par exemple, la présence de personnes queer, de personnes handicapées et de personnes neurodivergentes nie d’une certaine manière la nature même de l’utopisme – car si le handicap existe toujours (et encore moins s’il est célébré), est-ce même une utopie ? Il existe tout un ensemble de visions futurologiques superficiellement inspirantes qui célèbrent extérieurement cet effacement.