A-t-on réellement besoin de l’IoT domestique ?

Déjà dans son ouvrage 1984, George Orwell décrivait un “télécran” ; ressemblant à une télévision, cet appareil pouvant servir d’outil de propagande, mais surtout utile à Big Brother pour surveiller la population grâce à des capteurs intégrés. Visionnaire ou pessimiste, Orwell avait pourtant vu juste : la capture de données se révèle être la pierre angulaire des objets connectés. En effet, un objet connecté n’est utile que s’il parvient à créer un lien réel et direct entre le monde physique et les systèmes informatiques via la récolte et l’analyse des données provenant de ses  nombreux capteurs. La valeur des objets connectés résiderait ainsi dans leur capacité à suivre, mesurer et créer des actions ou des réponses « intelligentes » qui apportent des avantages considérables aux individus, aux entreprises et à la société. Alors, les objets smart home, toujours plus présents dans notre quotidien, inversent-ils les rapports Homme – Machine ? Nous nous demanderons dans cet article si la liberté du consommateur d’IoT domestique peut être menacée, et s’il existe, en utilisant de plus en plus d’objets smart home, un risque d’asservissement, de perte d’autonomie, pouvant aller jusqu’à une perte du lien social. Ainsi, cet article se chargera de répondre à la problématique suivante : A-t-on réellement besoin des objets connectés ?

Image à la une : une enseigne en forme de point d’interrogation (Jon Tyson – Unsplash)

Le Dialogue Homme-Machine 

Les nouveaux dispositifs smart home, et plus particulièrement les enceintes connectées, qui intègrent l’intelligence artificielle à leurs technologies, révèlent une nouvelle manière de penser la relation Homme-Machine. En effet, ces enceintes, qui écoutent, retiennent et modifient leurs interactions au fur et à mesure des conversations avec les utilisateurs, pourraient avoir la capacité de les influencer, et tout ceci grâce à l’aide d’un chatbot intégré. 

Ces systèmes dits chatbots permettent aux objets connectés de converser avec leurs propriétaires, dans toutes les langues et à toute heure du jour et de la nuit. Ces chatbots s’améliorent et se mettent à jour au fur et à mesure de leurs discussions. Plus étonnamment, ils sont capables de reconnaître les émotions de leurs utilisateurs, à travers des indices, qu’ils soient dans le vocabulaire utilisé, dans la stabilité de la voix, et dans le langage corporel. En s’adaptant aux émotions de leur utilisateur, les enceintes parviennent à des conversations plus fluides, s’adaptent à leur interlocuteur et peuvent potentiellement l’influencer, ce qui peut déjà soulever de nombreux problèmes éthiques. C’est ce qu’on appelle les nudges, ou le fait que les objets connectés, en améliorant jour après jour leur chatbot, peuvent et pourront de mieux en mieux émettre des suggestions dans une discussion, ou influencer leur interlocuteur. Alors demain, une enceinte pourrait nous souffler à l’oreille de consommer tel ou tel produit, de faire plus de sport… De la même manière, les développements des assistants vocaux, comme Siri d’Apple ou Google Now d’Android, sont aujourd’hui à même d’avoir une conversation dite naturelle avec leurs utilisateurs. Lorsqu’on observe la page web dédiée à Siri sur le site d’Apple, c’est d’ailleurs l’adverbe “naturellement” qui est repris dans les claims marketing de la firme : “Avec les raccourcis Siri, interagissez avec les apps naturellement, comme si vous leur parliez”. 

D’un côté, les objets smart home, les assistants dotés d’une intelligence artificielle sont programmés afin d’adopter une attitude de plus en plus naturelle, et de l’autre, c’est l’Homme lui-même qui “mécanise” son langage, adoptant une syntaxe plus simple, parlant plus fort et plus lentement, il change son comportement naturel. Seulement, ce n’est pas uniquement son rapport au langage qui est modifié, mais toute une série de comportements qui font que le rapport Homme-Machine est plus que jamais en pleine transformation. 

Un rapport Homme-Machine totalement bouleversé

Le Test de Turing proposait de mesurer l’intelligence d’un ordinateur en évaluant si celui-ci était capable de tromper un humain sur sa véritable nature -ordinateur ou humain- en dialoguant avec ce dernier. Aujourd’hui, l’objet connecté converse de plus en plus comme l’utilisateur, et ce dernier converse de plus en plus comme à une machine si il veut se faire comprendre. Grâce à leurs capteurs de données et leur faculté à retenir et se servir des informations dont ils disposent, les objets connectés de type smart home ont un modèle de réflexion et de prise de décision identique à celui du cerveau humain – ils font des liens. De plus, ils sont capables de visualiser les relations qui composent la vie sociale de leur utilisateur-propriétaire, permettant alors à ce dernier de demander “Appelle Papa” ou encore “Dis à mon équipe de travail que j’ai envoyé le dossier”. Ces demandes de la part de l’utilisateur sont équivalentes à celles que l’on pourrait retrouver dans une interaction sociale.

Les enceintes connectées smart home, outre leurs fonctions premières, ont pour but de faire consommer leur utilisateur, et de capter son attention. Si un consommateur possède une enceinte Alexa dans son foyer, il sera forcément plus à même de penser ou d’utiliser  Amazon lorsqu’il voudra réaliser un quelconque achat, et ce d’autant plus lorsque Alexa connaît ses préférences, est capable de lui recommander telle ou telle marque en fonction de ce qu’il aime et de ses habitudes de consommation. Alexa, et les enceintes connectées de manière générale, connaissent et connaîtront de mieux en mieux leurs utilisateurs, de telle sorte que le marketing d’aujourd’hui pourrait totalement se transformer dans les années à venir, et que l’on pourrait voir naître une économie dite de l’attention. Plus l’objet connecté capte l’attention de son utilisateur, plus elle échange avec lui, plus elle est capable de le faire changer d’avis, de le biaiser, et de l’influencer sur ses prises de décisions. 

Le bouleversement de ce rapport de l’Homme à la Machine, et maintenant, de la Machine à l’Homme, suscite bien des questions. Si les objets connectés deviennent de plus en plus naturels, quelle est la véritable nature humaine ? Si le langage, auparavant considéré comme le propre de l’Homme et reflet de la conscience humaine, est approprié par nos objets connectés de demain, que reste-t-il d’humain à l’Homme ? Si même le libre-arbitre et la liberté, également considérées comme propre à l’Homme parce qu’il est doté d’une conscience, sont menacées, que faire des objets connectés ? Faut-il les éviter, les refuser ? Existe-t-il des objets connectés qui ne seraient pas biaisés ? 

Vers des objets connectés éthiques ? 

Est-il alors imaginable, faisable ou trop optimiste d’imaginer des objets connectés éthiques ?  

Lorsque l’on imagine l’impact futur des innovations d’IoT smart home, il n’y a pas de règles, ni de normes. La question de savoir quelles valeurs seront assignées à l’objet connecté, ou l’intelligence artificielle, est une question éthique, qui doit être débattue d’urgence. Pourtant, le raisonnement moral et la conduite éthique sont rarement des sujets de discussion en ligne dans les communautés de développeurs et d’innovateurs en IoT. Un raisonnement moral éclairé implique de reconnaître qu’il existe des implications éthiques dans les hypothèses et les décisions relatives à la conception des produits ou des services. Les appareils et services connectés sont de plus en plus souvent conçus comme faisant partie d’une infrastructure banale, ce qui les rend invisibles. Cela signifie que les développeurs doivent être en mesure de comprendre comment les décisions relatives aux compromis lors de la conception peuvent avoir des conséquences éthiques : Bien sûr, l’utilisation de ce composant moins cher contribuerait à améliorer les résultats, mais est-ce un compromis en matière de sécurité ? C’est ce qu’on appelle l’ethics by design: Au lieu de vérifier l’éthique à la fin du processus de conception et de développement, il s’agit de penser des outils de réflexion critique et d’intervention éthique lors de la conception des objets connectés. 

En conclusion, toutes ces questions que soulèvent les objets connectés ne semblent aujourd’hui pas ou peu envisagées de manière stratégique, et il apparaît que l’on ne consacre pas suffisamment de temps, d’énergie et de ressources à la compréhension de la nature du défi que représente l’intégrité et l’éthique de ces derniers. Pour gagner la confiance des utilisateurs dans le processus de collecte des données et la technologie de surveillance, il est crucial pour les entreprises, les autorités judiciaires, les gouvernements et les consommateurs de gérer de manière éthique la façon dont les données sont collectées. 

En effet, chaque acteur – entreprises, gouvernements, consommateurs et autorités judiciaires – voit des intérêts et des limites à la prolifération des objets connectés dans la vie quotidienne des particuliers, ceux-ci n’étant pas nécessairement convergents. Comment convenir à un dialogue respectant les avantages de chaque parti ? Plus largement, quel futur pour les objets smart home de demain ? C’est ce que nous verrons dans la troisième et dernière partie.

Bibliographie

Le dialogue homme-machine. Consulté sur : https://www-cairn-info.proxy.grenoble-em.com/revue-futuribles-2019-6-page-51.htm

Nature et domotique du langage. Consulté sur : https://journals.openedition.org/corela/8498

Siri. Consulté sur : https://www.apple.com/fr/siri/

Enceintes connectées, enjeux d’une nouvelle interface homme-machine. Consulté sur : https://serval.unil.ch/resource/serval:BIB_S_28914.P001/REF.pdf

Interfaces vocales, attention danger ! Consulté sur : https://larevuedesmedias.ina.fr/interfaces-vocales-attention-dangers

Ethique et objets connectés : enjeux et pistes de réflexion. Consulté sur : https://master-iesc-angers.com/ethique-et-objets-connectes-enjeux-et-pistes-de-reflexion/