2024-06-23 18:51:00
Intelligence artificielle (IA)
L’IA qui prétend lire nos sentiments peut améliorer l’expérience utilisateur, mais les préoccupations concernant les abus et les préjugés signifient que ce domaine est semé de dangers potentiels.
dim. 23 juin 2024 21h00 AEST
Nous sommes mercredi soir et je suis à la table de ma cuisine, l’air renfrogné devant mon ordinateur portable tandis que je verse toute la bile que je peux rassembler en trois petits mots : « Je t’aime ».
Mes voisins pourraient penser que je suis engagé dans un appel mélodramatique à un ex-partenaire, ou peut-être dans une sorte d’exercice de théâtre, mais je teste en fait les limites d’une nouvelle démo de Hume, une startup basée à Manhattan qui prétend avoir a développé « la première IA vocale au monde dotée d’une intelligence émotionnelle ».
«Nous formons un vaste modèle de langage qui comprend également le ton de votre voix», déclare Alan Cowen, PDG et scientifique en chef de Hume. «Ce que cela permet… c’est d’être capable de prédire comment un énoncé ou une phrase donnée évoquera des modèles d’émotion.»
En d’autres termes, Hume prétend reconnaître l’émotion dans nos voix (et dans une autre version non publique, les expressions faciales) et y répondre avec empathie.
Stimulée par le lancement par Open AI du nouveau GPT4o, plus « émotif », en mai dernier, l’IA dite émotionnelle constitue un marché de plus en plus important. Hume a levé 50 millions de dollars lors de sa deuxième ronde de financement en mars, et la valeur de l’industrie devrait atteindre plus de 50 milliards de dollars cette année. Mais le professeur Andrew McStay, directeur du Emotional AI Lab de l’Université de Bangor, suggère que de telles prévisions n’ont aucun sens. « L’émotion est une dimension tellement fondamentale de la vie humaine que si l’on pouvait comprendre, évaluer et réagir à l’émotion de manière naturelle, cela aurait des implications qui dépasseraient largement les 50 milliards de dollars », dit-il.
Les applications possibles vont de meilleurs jeux vidéo et de lignes d’assistance téléphonique moins frustrantes à une surveillance digne d’Orwell et à une manipulation émotionnelle de masse. Mais est-il vraiment possible pour l’IA de lire avec précision nos émotions, et si une forme de cette technologie est malgré tout en route, comment devrions-nous la gérer ?
« J’apprécie vos aimables paroles, je suis là pour vous soutenir », répond l’Empathic Voice Interface (EVI) de Hume d’une voix amicale, presque humaine tandis que ma déclaration d’amour apparaît retranscrite et analysée à l’écran : 1 (sur 1 ) pour « amour », 0,642 pour « adoration » et 0,601 pour « romance ».
Une des cartes de Hume d’un état émotionnel ou d’une réaction à une expression faciale – dans ce cas, la tristesse. Photographie : hume.ai/products
Même si l’incapacité à détecter tout sentiment négatif pourrait être due à un mauvais comportement de ma part, j’ai l’impression que mes mots ont plus de poids que mon ton, et quand j’en parle à Cowen, il me dit que c’est difficile pour le modèle. pour comprendre des situations qu’il n’a jamais rencontrées auparavant. « Il comprend le ton de votre voix », dit-il. «Mais je ne pense pas qu’on ait jamais entendu quelqu’un dire ‘Je t’aime’ sur ce ton.»
Peut-être pas, mais une IA véritablement empathique devrait-elle reconnaître que les gens ont rarement le cœur sur la main ? Comme l’a observé Robert De Niro, maître dans l’art de décrire les émotions humaines : « Les gens n’essaient pas de montrer leurs sentiments, ils essaient de les cacher. »
Cowen dit que l’objectif de Hume est uniquement de comprendre les expressions manifestes des gens, et en toute honnêteté, l’EVI est remarquablement réactif et naturaliste lorsqu’il est abordé avec sincérité – mais que fera une IA de notre comportement moins direct ?
***
Plus tôt cette année, le professeur agrégé Matt Coler et son équipe du laboratoire de technologie vocale de l’Université de Groningen ont utilisé les données de sitcoms américaines, notamment Amis et La théorie du Big Bang pour former une IA capable de reconnaître le sarcasme.
Cela semble utile, pourriez-vous penser, et Coler soutient que c’est le cas. « Lorsque nous regardons comment les machines imprègnent de plus en plus la vie humaine », dit-il, « il nous incombe de nous assurer que ces machines peuvent réellement aider les gens de manière utile. »
Coler et ses collègues espèrent que leur travail sur le sarcasme mènera à des progrès avec d’autres dispositifs linguistiques, notamment l’ironie, l’exagération et la politesse, permettant des interactions homme-machine plus naturelles et plus accessibles, et ils ont pris un départ impressionnant. Le modèle détecte avec précision le sarcasme dans 75 % des cas, mais les 25 % restants soulèvent des questions telles que : quelle liberté devrions-nous accorder aux machines pour interpréter nos intentions et nos sentiments ; et quel degré de précision cette licence exigerait-elle ?
Le problème essentiel de l’IA émotionnelle est que nous ne pouvons pas dire avec certitude ce que sont les émotions. «Rassemblez une salle de psychologues et vous aurez des désaccords fondamentaux», explique McStay. « Il n’existe pas de définition de base convenue de ce qu’est l’émotion. »
La plupart des entreprises prétendent encore qu’il est possible de regarder un visage et de savoir si quelqu’un est en colère ou triste. Ce n’est clairement pas le cas
Il n’y a pas non plus d’accord sur la manière dont les émotions sont exprimées. Lisa Feldman Barrett est professeur de psychologie à la Northeastern University de Boston, Massachusetts, et en 2019, elle et quatre autres scientifiques se sont réunis avec une question simple : pouvons-nous déduire avec précision les émotions à partir des seuls mouvements du visage ? «Nous avons lu et résumé plus de 1 000 articles», explique Barrett. « Et nous avons fait quelque chose que personne d’autre n’avait fait jusqu’à présent : nous sommes parvenus à un consensus sur ce que disent les données. »
Le consensus ? Nous ne pouvons pas.
«C’est très pertinent pour l’IA émotionnelle», explique Barrett. « Parce que la plupart des entreprises que je connais continuent de promettre que vous pouvez regarder un visage et détecter si quelqu’un est en colère, triste ou effrayé, etc. Et ce n’est clairement pas le cas.»
« Une personne émotionnellement intelligente humain ne prétend généralement pas pouvoir mettre une étiquette précise sur tout ce que tout le monde dit et vous dire que cette personne se sent actuellement à 80 % en colère, 18 % craintive et 2 % triste », explique Edward B Kang, professeur adjoint à l’Université de New York, écrivant sur l’intersection de l’IA et du son. «En fait, cela me semble être le contraire de ce que dirait une personne émotionnellement intelligente.»
À cela s’ajoute le problème notoire du biais de l’IA. « La qualité de vos algorithmes dépend de celle du matériel de formation », explique Barrett. «Et si votre matériel de formation est biaisé d’une manière ou d’une autre, alors vous consacrez ce biais dans le code.»
Des recherches ont montré que certaines IA émotionnelles attribuent de manière disproportionnée des émotions négatives aux visages des Noirs, ce qui aurait des implications claires et inquiétantes si elles étaient déployées dans des domaines tels que le recrutement, les évaluations de performances, les diagnostics médicaux ou le maintien de l’ordre. « Nous devons apporter [AI bias] à l’avant-garde de la conversation et de la conception des nouvelles technologies », déclare Randi Williams, responsable de programme à l’Algorithmic Justice League (AJL), une organisation qui œuvre pour sensibiliser aux préjugés dans l’IA.
Il y a donc des inquiétudes quant au fait que l’IA émotionnelle ne fonctionne pas comme elle le devrait, mais que se passe-t-il si elle fonctionne trop bien ?
«Lorsque nous disposons de systèmes d’IA qui exploitent la partie la plus humaine de nous-mêmes, il existe un risque élevé que des individus soient manipulés à des fins commerciales ou politiques», déclare Williams, et quatre ans après que les documents d’un lanceur d’alerte ont révélé «l’échelle industrielle» à laquelle Cambridge Analytica a utilisé les données de Facebook et le profilage psychologique pour manipuler les électeurs, l’IA émotionnelle semble prête à être utilisée de manière abusive.
Comme cela devient de plus en plus habituel dans l’industrie de l’IA, Hume a nommé un comité de sécurité – la Hume Initiative – qui compte parmi ses membres son PDG. Se décrivant comme un « effort à but non lucratif traçant une voie éthique pour l’IA empathique », les lignes directrices éthiques de l’initiative comprennent une longue liste de « cas d’utilisation pris en charge sous condition » dans des domaines tels que les arts et la culture, la communication, l’éducation et la santé, et une liste beaucoup plus petite. de « cas d’utilisation non pris en charge » qui cite de larges catégories telles que la manipulation et la tromperie, avec quelques exemples incluant la guerre psychologique, les contrefaçons profondes et « l’optimisation pour l’engagement des utilisateurs ».
«Nous autorisons les développeurs à déployer leurs applications uniquement si elles sont répertoriées comme cas d’utilisation pris en charge», explique Cowen par e-mail. «Bien sûr, l’Initiative Hume accueille favorablement les commentaires et est ouverte à l’examen de nouveaux cas d’utilisation à mesure qu’ils émergent.»
Comme pour toute IA, concevoir des stratégies de sauvegarde capables de suivre le rythme du développement est un défi.
Professeur Lisa Feldman Barrett, psychologue à la Northeastern University de Boston, Massachusetts. Photographie : Matthew Modoono/Université Northeastern
Approuvée en mai 2024, la loi de l’Union européenne sur l’IA interdit d’utiliser l’IA pour manipuler le comportement humain et interdit la technologie de reconnaissance des émotions dans des espaces tels que le lieu de travail et les écoles, mais elle fait une distinction entre l’identification des expressions d’émotion (qui serait autorisée) et la déduction d’une émotion. l’état émotionnel de l’individu (ce qui ne le serait pas). En vertu de la loi, un responsable de centre d’appels utilisant l’IA émotionnelle pour la surveillance pourrait sans doute discipliner un employé si l’IA dit qu’il semble avoir l’air mal. grincheux lors des appels, tant qu’il n’y a aucune déduction qu’ils sont en fait grincheux. «N’importe qui pourrait encore utiliser ce type de technologie sans faire de déduction explicite quant aux émotions intérieures d’une personne et prendre des décisions qui pourraient l’influencer», explique McStay.
Le Royaume-Uni n’a pas de législation spécifique, mais le travail de McStay avec l’Emotional AI Lab a contribué à éclairer la position politique du Bureau du commissaire à l’information, qui en 2022 a averti les entreprises d’éviter « l’analyse émotionnelle » ou d’encourir des amendes, citant la nature « pseudo-scientifique » du domaine. .
Les suggestions de la pseudoscience proviennent en partie du problème consistant à tenter de dériver des vérités émotionnelles à partir de grands ensembles de données. « Vous pouvez mener une étude dans laquelle vous trouvez une moyenne », explique Lisa Feldman Barrett. «Mais si vous alliez auprès d’une personne en particulier dans une étude individuelle, elle n’aurait pas cette moyenne.»
Pourtant, faire des prédictions à partir d’abstractions statistiques ne signifie pas qu’une IA ne peut pas être correcte, et certaines utilisations de l’IA émotionnelle pourraient éventuellement contourner certains de ces problèmes.
***
Une semaine après avoir testé l’EVI de Hume, j’ai une conversation nettement plus sincère avec Lennart Högman, professeur adjoint de psychologie à l’Université de Stockholm. Högman me raconte les plaisirs d’élever ses deux fils, puis je décris une journée particulièrement bonne de mon enfance, et une fois que nous avons partagé ces souvenirs heureux, il alimente la vidéo de notre appel Zoom dans un logiciel développé par son équipe pour analyser les émotions des gens. en tandem. « Nous étudions l’interaction », dit-il. «Il ne s’agit donc pas d’une seule personne qui montre quelque chose, mais de deux personnes qui interagissent dans un contexte spécifique, comme la psychothérapie.»
Högman suggère que le logiciel, qui repose en partie sur l’analyse des expressions faciales, pourrait être utilisé pour suivre les émotions d’un patient au fil du temps et fournirait un outil utile aux thérapeutes dont les services sont de plus en plus fournis en ligne en aidant à déterminer la progression du traitement, à identifier les réactions persistantes. sur certains sujets et surveiller l’alignement entre le patient et le thérapeute. « Il a été démontré que l’alliance est peut-être le facteur le plus important en psychothérapie », explique Högman.
Tandis que le logiciel analyse notre conversation image par image, Högman souligne qu’il est encore en développement, mais que les résultats sont intrigants. En parcourant la vidéo et les graphiques qui l’accompagnent, nous voyons des moments où nos émotions sont apparemment alignées, où nous reflétons le langage corporel de chacun, et même lorsque l’un de nous semble être plus dominant dans la conversation.
De telles idées pourraient éventuellement faire tourner les rouages des affaires, de la diplomatie et même de la pensée créative. L’équipe de Högman mène actuellement des recherches non encore publiées qui suggèrent une corrélation entre la synchronisation émotionnelle et une collaboration réussie sur des tâches créatives. Mais il y a inévitablement place à des abus. «Lorsque les deux parties à une négociation ont accès aux outils d’analyse de l’IA, la dynamique change sans aucun doute», explique Högman. « Les avantages de l’IA pourraient être annulés à mesure que chaque partie devient plus sophistiquée dans ses stratégies. »
Comme pour toute nouvelle technologie, l’impact de l’IA émotionnelle dépendra en fin de compte des intentions de ceux qui la contrôlent. Comme l’explique Randi Williams de l’AJL : « Pour adopter ces systèmes avec succès en tant que société, nous devons comprendre à quel point les intérêts des utilisateurs ne sont pas alignés sur les institutions qui créent la technologie. »
Tant que nous n’aurons pas fait cela et agi en conséquence, l’IA émotionnelle est susceptible de susciter des sentiments mitigés.
{{#téléscripteur}}
{{en haut à gauche}}
{{en bas à gauche}}
{{en haut à droite}}
{{en bas à droite}}
{{#goalExceededMarkerPercentage}}{{/goalExceededMarkerPercentage}}{{/ticker}}
{{titre}}
{{#paragraphes}}
{{.}}
{{/paragraphes}}{{highlightedText}}
{{#choiceCards}}
UniqueMensuelAnnuel
Autre
{{/choiceCards}}Nous vous contacterons pour vous rappeler de contribuer. Recherchez un message dans votre boîte de réception en . Si vous avez des questions sur la contribution, veuillez nous contacter.
#Êtesvous #colère #triste #Pourquoi #lIA #émotionnelle #est #semée #dembûches #Intelligence #artificielle