C ela commence par de petites choses

« Cela commence par de petites choses, par exemple quel livre acheter. Comment les gens choisissaient-ils leurs livres il y a vingt ans ? Ils se fiaient à leurs sentiments personnels et aux recommandations de leurs amis. Aujourd'hui, nous avons de plus en plus recours à Amazon. Lorsque nous entrons dans le magasin virtuel d'Amazon, le message suivant s'affiche : « Je sais quels livres vous avez aimé. Les gens qui ont les mêmes goûts que vous ont aimé telle ou telle nouveauté ». Mais ce n'est qu'un début. Des appareils tels que le Kindle d'Amazon peuvent collecter en permanence des données sur leurs utilisateurs pendant la lecture. Votre liseuse peut contrôler la vitesse à laquelle vous lisez tel ou tel chapitre, ici vite, là lentement ; à quelle page vous avez fait une pause, et à quelle phrase vous avez définitivement laissé tomber.

Et si, de surcroît, Kindle était doté d'un logiciel de reconnaissance des visages et de capteurs biométriques, il pourrait savoir la façon dont chaque phrase vous influence, vous fait battre le cœur et modifie votre tension. Il pourrait savoir ce qui vous a fait rire, ce qui vous a rendu triste, ce qui vous a mis en colère. Sous peu, les livres vous liront pendant que vous les lisez ! Et alors que vous oubliez rapidement ce que vous avez lu, les programmes informatiques n'ont aucune raison d’en faire autant. En fin de compte, ces données pourraient permettre à Amazon de choisir vos lectures à votre place avec une précision inquiétante et lui donner la possibilité de savoir exactement qui vous êtes et sur quels boutons émotionnels appuyer. En poussant la logique jusqu’au bout, les gens pourraient finir par confier aux algorithmes le pouvoir de prendre les décisions les plus importantes de leur vie : quelles études suivre, qui épouser, pour qui voter… »