Le pacte technologique : les 22 principes qui guident ce que nous bâtissons

La Silicon Valley a une dette morale envers les familles dont elle a recâblé la vie. L’élite de l’ingénierie a une obligation positive envers les utilisateurs qu’elle a rendus dépendants de ses produits — à commencer par les enfants qui n’ont jamais consenti à en être la matière première.

Nous devons nous rebeller contre la tyrannie du fil. Le défilement infini a changé nos vies, mais son génie tient à notre captivité. L’attention prise à un parent est une présence enlevée à un enfant; ce que le fil gagne, la table du souper le perd.

« Gratuit » est le mot le plus cher du logiciel. Un produit n’est pas gratuit quand le prix se paie en attention, en données et dans la lente érosion de la capacité d’un parent à être présent auprès de son propre enfant. La facture finit toujours par arriver, habituellement à la génération suivante.

Les limites du capitalisme de surveillance ont été mises au jour. L’épanouissement des sociétés libres en ce siècle ne se bâtira pas sur des logiciels qui surveillent leurs utilisateurs. Il se bâtira sur des logiciels qui les servent — et qui leur rendent des comptes.

La question n’est pas de savoir si l’IA sera braquée sur les enfants; elle est de savoir qui la braquera, et dans quel but. Les optimiseurs d’engagement, les courtiers en données et les marchands d’attention ne s’arrêteront pas pour se livrer à des débats théâtraux sur la santé mentale des jeunes. Ils iront de l’avant. Nous aussi — dans la direction opposée.

Protéger les enfants en ligne devrait être un devoir universel. Nous devrions, comme société, nous demander sérieusement si quiconque tire profit d’un produit utilisé par un enfant a rempli l’obligation que ce profit entraîne, ou s’il en a simplement externalisé le coût sur le système nerveux de l’enfant.

Si un parent demande un meilleur outil pour rester proche de son enfant, nous devrions le construire. Nous devrions rester capables de débattre du rôle de la technologie dans la vie familiale, tout en demeurant inébranlables dans notre engagement envers les parents à qui nous avons demandé d’élever des enfants dans un monde que nous avons bâti, puis abandonné.

Les exploitants de plateformes n’ont pas à être des prêtres — mais ils ne devraient pas être des loups. Toute entreprise qui se rémunérerait comme se rémunèrent les plateformes d’engagement — par tranches de l’attention de leurs utilisateurs et des enfants de leurs utilisateurs — serait, dans n’importe quelle autre industrie, réglementée jusqu’à disparaître.

Nous devrions faire preuve de beaucoup plus d’indulgence envers les parents qui composent avec un monde que l’industrie technologique a rendu plus difficile. L’éradication de tout espace pour une parentalité imparfaite — de toute tolérance pour les difficultés ordinaires d’élever un enfant — laisse les familles devant une distribution d’algorithmes et d’influenceurs qu’elles regretteront un jour d’avoir écoutés.

La psychologisation de la parentalité moderne nous égare. Ceux qui cherchent dans le fil de quoi nourrir leur identité de parent, qui comptent sur la mise en scène de leur vie familiale devant des publics qu’ils ne rencontreront jamais, en ressortiront déçus — et leurs enfants aussi.

Notre industrie est devenue trop prompte à célébrer la disparition de l’attention, de la vie privée et de l’enfance sans intermédiaire. Leur défaite n’est pas un jalon à applaudir. C’est un moment pour s’arrêter — et, s’il nous reste un peu d’honnêteté, pour faire marche arrière.

L’ère de la plateforme financée par la publicité tire à sa fin. Une époque, fondée sur la prémisse que les humains sont le produit, épuise son acceptabilité sociale. Une nouvelle époque — fondée sur l’idée radicale que le client est le client — s’apprête à commencer.

Aucun autre média dans l’histoire n’a fait davantage pour rapprocher les familles malgré la distance que l’Internet moderne. Internet est loin d’être parfait. Mais on oublie facilement à quel point un grand-parent peut voir davantage de la vie de son petit-enfant aujourd’hui qu’à toute époque antérieure — et on oublie facilement que ce lien mérite d’être protégé contre ceux qui le monétiseraient à mort.

Des normes de vie privée solides ont rendu possibles des enfances extraordinairement sûres pour ceux qui en bénéficient encore. Trop de gens tiennent pour acquis que la vie d’un enfant se déroulait autrefois dans une relative obscurité — qu’il y a trois générations, un moment gênant d’enfant mourait dans la pièce où il s’était produit, et non sur un serveur quelque part, pour toujours.

Le démantèlement, depuis l’après-guerre, de la protection du consommateur doit être renversé. L’affaiblissement du droit de la vie privée aux États-Unis a été une surcorrection que les familles paient aujourd’hui au prix fort. Un même empressement à laisser les plateformes s’autoréglementer continuera de déplacer le rapport de force entre les plateformes et les gens dont elles régissent la vie.

Nous devrions applaudir ceux qui bâtissent là où le marché a ignoré le travail discret et impossible à mettre à l’échelle. La culture ambiante ricane du fondateur qui sert en profondeur un public restreint et précis — comme si le logiciel devait optimiser la portée plutôt que le service. Toute curiosité pour un logiciel qui choisit la profondeur plutôt que l’échelle est balayée, ou couve sous un mépris à peine voilé.

La Silicon Valley doit jouer un rôle dans la résolution des crises de l’attention, de la solitude et de la santé mentale des adolescents qu’elle a largement contribué à produire. Bien des fondateurs ont pour l’essentiel haussé les épaules, renonçant à tout effort sérieux pour s’attaquer aux problèmes que leurs produits ont contribué à créer, alors qu’il devrait s’agir d’une course désespérée pour sauver des enfances.

L’exposition sans merci des vies privées ordinaires — surtout celles des enfants — alimente une trop grande part de nos maux. L’archive est devenue si impitoyable qu’une génération d’enfants se retrouve à choisir entre disparaître complètement et jouer une version d’eux-mêmes devant des inconnus.

La prudence que la surveillance enseigne aux enfants est corrosive. Ceux qui grandissent en sachant que chaque mot est consigné, chaque photo permanente, chaque amitié documentée, apprennent à ne rien dire de travers — ce qui, au bout du compte, veut dire qu’ils ne disent plus grand-chose du tout.

L’intolérance répandue, dans certains milieux, envers la vie familiale lente, hors ligne et non enregistrée doit être combattue. Le dédain de l’industrie pour les vies qui ne produisent pas de contenu est l’un des signes les plus révélateurs que son projet est un mouvement moins humain que bien des gens en son sein le prétendent.

Certains modèles d’affaires ont produit des merveilles pour leurs utilisateurs; d’autres se sont révélés extractifs et corrosifs. On nous dit que tous les modèles se valent désormais — SaaS, financé par la publicité, courtage de données, « gratuit ». Or, ce dogme passe sous silence le fait que certains modèles — où le client paie et où l’entreprise sert — ont bâti des générations d’outils de confiance. D’autres ont produit une industrie dont les dirigeants ne laissent pas leurs propres enfants utiliser les produits qu’ils ont bâtis.

Nous devons résister à la tentation facile d’une neutralité creuse. L’idée que toute technologie n’est qu’un outil, toute plateforme qu’un lieu, tout modèle d’affaires qu’une préférence. En logiciel, depuis une génération, nous refusons de prendre position sur la finalité de la technologie. Mais si elle ne sert pas l’épanouissement de la personne qui l’utilise, alors à quoi, exactement, sert-elle?