机器能否通过观察你的面部表情知道你的心情？你的电子邮件是否表明你有多紧张？机器能否比你更好地理解你的情绪？
根据一波新兴公司的说法，对上述问题的答案是肯定的。许多公司正在试图推销这样的想法：情感人工智能能够吸引我们甚至自己都没有意识到的关键面部运动，利用这些微小的瞬间来判断我们的感受，然后将这些产生的情感转化为可量化的数据。开发人员声称，情感（EAI）可以分辨出幸福、困惑、愤怒，甚至是感伤等不同的情绪之间的差异。 从理论上讲，这项技术使计算机能够理解我们的情感。
对于公司而言，情感人工智能可能是一个金矿。能够理解客户的真实想法、感受和个性使得公司更容易销售他们的产品。想象一下，当你在购物应用程序上浏览时，借助 EAI，该应用程序能够立即感知到，并迅速提供能够让你感到满意并更多可能购买的内容。一些企业已经在制造智能玩具、机器人、车辆和富有同理心的人工智能聊天机器人方面使用了这项技术。除商业目的外，情感人工智能还可以在职场上帮助公司：了解潜在或现有员工的情感状态可以帮助公司提高生产力并保持至少的决策。
然而，这其中存在一个问题：人工智能（EAI）是否有效。该技术背后的科学原理在该领域存在争议，一些批评者表示，通过检查面部表情来理解我们的感受是不可能的。但并没有阻止公司使用EAI来监视员工，判断他们的情绪，并确定谁应该被雇用，谁应该被解雇。人工智能正准备影响劳动力的所有部分，但这可能是其中最隐藏的之一。在我们甚至没有意识到的情况下，我们的上司可能正在猜测我们的私人情感，并利用它们与我们交流。
尽管情感人工智能的工作原理从上世纪90年代末就开始研发，但近年来，随着支撑人工智能的基础变得更加复杂，以及该领域的兴趣增加，该行业开始了爆发式腾飞，情感人工智能可以接受的数据量非常庞大。公司使用这项技术来测量包括呼吸、心率、出汗、皮肤电导率变化和身体姿势等在内的各种数据。这些数据用于各种应用，例如检测某人可能在报表方面撒谎，帮助诊断抑郁症，并跟踪学生在在线学习期间对老师的反应。一些情绪人工智能的版本涉及语言暗示，追踪微小的对话停顿和语调其他版本则考虑瞳孔传播和凝视的变化。还有一些模型可以阅读你的电子邮件、短信或其他消息，并生成关于你可能在潜意识中表达的基础情感的详细报告。
Smart Eye公司的首席营销官Gabi Zijderveld表示，该公司通过分析超过1450万由参与者参与者制作的面部表情视频，积累了大量基于情感的数据。她将公司的人工智能描述为“基本观察”人类，观察面部表情分析、人们的动作、人们的非语言暗示——就像我们喜欢说的那样——了解他们的情感，也许还有认知状态。”
情感AI面部分析示例。EAI 公司声称他们的技术可以判断某人的感受。
Smart Eye 利用这种技术，例如用于驾驶员监测系统，通过面部分析和眼动追踪检测驾驶员疲劳。该公司还为广告和娱乐公司提供分析服务。在这些情况下，参与者参与者观看在线视频，其表情被情感人工智能技术分析，广告中的搞笑是否有趣，或者电影预告片中的某个时刻是否引发了预期的情感反应。（Zijderveld 强调参与这些测试组始终是可选的。）公司将利用这些数据，结合参与者提供的人口统计信息，Zijderveld 表示，“开始对不同人群的内容的反应进行解读”。
像CBS和迪士尼这样的公司可以利用这些信息根据人们对产品的反应进行定制。也许他们会重新剪辑一个预告片，去掉一个不太受欢迎的笑话，或者根据他们要销售给观众的人口统计信息更改广告。
监测员工情绪虽然这些应用看起来可能无害，甚至有益，但在工作场所使用情感人工智能却更加困难。员工通常不知道它正在被使用，这意味着他们可能被认为在工作中感到不快乐、情绪不稳定或过度紧张，甚至根本不知道自己一开始就受到了监视。
犹他州的招聘平台HireVue于2014年开始在其竞选面试过程中使用情感人工智能面部分析。该技术背后的理念是崇高的：情感人工智能应该通过在视频面试中识别软技能、认知能力、据《华盛顿邮报》报道，包括宜家、道琼斯和甲骨文在内的数百家企业使用该软件评估了 100 多个问卷调查者。 2019年，电子隐私信息中心提出了一份投诉，声称存在“不公平和欺骗性的行为”，因为HireVue的技术实现证明能够实现该公司所声称的那样。投诉指出研究发现面部分析可能针对女性、有肤色人种和有神经差异的人存在偏见，并不能将其用于招聘决策。
员工在工作期间通常会对公司使用这种技术保持不知情。公众的强烈抗议，该公司表示将在2021年停止使用情绪人工智能面部分析，因为这不值得引起关注，但将继续在面试中分析语音、语言调整和行为。根据该公司的说法，语言要素提出了关于选举情感状态的结论。“当非语言数据添加到数据语言中时，算法并没有显示出显着的额外预测能力，”该公司表示。
其他招聘平台，如慕尼黑的“行为智能平台”Retorio，使用面部分析、身体姿势识别和语音分析的组合，“创建候选人的个性特征和软技能概况，使招聘人员能够做出更明智的销售招聘”该公司还表示，其技术可以消除偏见，流程对候选人是自愿的，他们可以在视频录制发送到招聘公司之前的任何时候选择退出，并以不同的方式申请。
AI Now Institute 董事总经理莎拉·迈尔斯·韦斯特 (Sarah Myers West) 对公司声称情感人工智能没有偏见的说法表示怀疑。她说：“在任何情况下，你都不能在没有任何严密对比的情况下提出那样的说法。” Retorio可能会强调其技术的自主权，但授权使用它的公司可能会选择不提交视频面试的结果打折扣。
一旦被雇佣，员工就不会摆脱情绪识别技术。在呼叫中心，情绪人工智能已经被用来捕捉客服代表和电话另一端客户的情绪。它可以向工作人员提供实时反馈，指导他们如何调整语气以与算法适当的内容一致。研究人员发现，这让一些工作人员感到困惑，对反馈认为问题，并担心如果他们的语气不够积极，技术会让他们陷入困境。
其他公司正在竞相开发支持情感人工智能的设备，以更深入地挖掘员工的心理。Framery是一家生产娱乐办公舱的公司，其产品被LinkedIn和Nvidia等公司使用，最近开始测试嵌入有生物传感器的办公总部位于赫尔辛基的创始人 Samu Hällfors 表示：“我们可以测量心率、心率变异性、呼吸频率和人们的紧张程度。”Framery 还申请了一种基于身体运动的笑声测量工具的专利。Hällfors 设想，企业将很快在其企业报告中包含员工幸福指标。如果发生这种情况，Framery将能够介入并从其智能椅子中收集数据，帮助公司确定其工作场所的整体情绪，并跟踪员工何时何地紧张。
但韦斯特对保持情感数据匿名的说法提出了质疑：“如果你在处理生物识别和情感识别，你本质上就是在处理可识别的数据。”她补充说：“正在收集的数据流非常多，匿名化的说法实际上站不住脚。”
Looksery 的创始人是 Snap Inc. 旗下的一家照片和软件公司，他们于 2017 年获得了一项名为“Emotion Recognition For WorkForce”的视频会议技术专利。目前尚消防是否在使用，但尽管该专利视频通话中的情感识别，特别是针对呼叫中心员工，明确表示“雇主可以利用这些信息进行人力资源优化，培养表现不佳的员工，提拔对客户持积极态度的员工，或进行其他行政管理”决策。”
纽约大学信息学院的博士生 Kat Roemmich 在情感人工智能方面进行了研究，发现员工在工作中通常并不知道公司正在使用这项技术。事实上，并且没有要求雇主告知他们。Roemmich 表示，情感信息可以通过“分析他们已经作为现有监控和监视计划的部分收集的数据”来收集，这意味着公司可以将人工智能添加到现有的监视计划中，而无需通知员工。
由于远程工作的原因，监视计划在大流行期间迅速扩大，使更多的人在工作中面临被追踪情感的可能性。由于情感人工智能在美国不被视为独特的可识别的生物识别数据，就像指纹或扫描那样，因此在美国没有受到监管。在欧洲，欧盟正在制定一项法案，可能会在工作场所非法颁布。但在有法规之前，公司可以自由使用它。
除了情感人工智能（EAI）存在伦理问题之外，该技术还面临另一个挑战：它可能根本行不通。解读面部表情的情感人工智能通常源于美国科学家保罗·埃克曼（保罗·埃克曼（Paul Ekman）的研究，他提出了人类的核心情感——恐惧、愤怒、喜悦、悲伤、惊讶和惊讶——可以通过超越文化差异的常见面部表情来揭示。但是埃克曼的工作近年来取得了相当大的成就相反，科学家针对特定情感的定义，以及如何准确地从某人的面部读取它们的问题尚无智慧。
通过2019年的面部分析研究综述发现，没有足够的证据证明面部表情与情感之间存在任何联系。该论文的作者写道：“关于某些面部运动如何表达情感实例，特别是他们还指出，不同的背景和文化可能导致相同的情感的巨大表情多样性。
科学家对于人类特定情感的定义，以及如何准确地从某人的面部读取他们的问题尚无见解。情感人工智能公司持有不同的意见。Smart Eye的Zijderveld表示，该公司来自大约90个国家的大量数据“使我们能够考虑到这些文化目的”。她补充说，了解上下文显然对于理解情绪与面部表情之间的相关性非常重要。
但该行业的不透明性几乎使得几乎不可能获得基于独立研究的关于技术工作原理的证据。“这是我所关注的一个关键点，”罗米奇说。“如果我们不能正确确定辩论的框架和基本问题，那么，正如我们已经看到的那样，利用情感的业者将无视它。”
即使这项技术确实能够真实捕捉内在感觉，在工作环境中使用它让公司可以前所未有地访问员工的私人情感。如果它不能做到这一点，那么使用情感人工智能来实现雇佣或解雇某人的目的决策可能是完全错误的。无论如何，这是一个令人担忧的问题，表明公司的想法正在渗透到我们生活的每个部分，甚至是我们内心深处的和感觉。