跳到主要内容
封面故事

vns威尼斯vns9080的前景和挑战

威尼斯城所有登入网址vns85978家在vns威尼斯vns9080的发展和使用中发挥着越来越大的作用, 包括如何利用它来改善心理健康

引用这
美国威尼斯城所有登入网址vns85978协会. (2021年11月). vns威尼斯vns9080的前景和挑战. 监控在威尼斯城所有登入网址vns85978, 52(8). http://www.美国威尼斯城所有登入网址vns85978协会.org/monitor/2021/11/cover-artificial-intelligence

图形与头和眼睛描绘了vns威尼斯vns9080的封面故事

vns威尼斯vns9080(AI), 什么使机器能够执行高级, 人类的功能, 有望在整个社会实现突破——在医疗保健方面, 运输, 教育, 金融, 及以后. 在他们最好的, AI工具执行任务的速度要快得多, 规模, 或比人类精确的程度——为vns威尼斯vns9080腾出时间和资源来解决机器无法解决的问题. 聊天机器人 can provide support around the clock; crawlers can scour websites and databases for information; self-driving cars hold the potential to make commutes safer and 更多的 efficient.

但这项技术并非没有风险. 一个显著的例子发生在2019年, vns威尼斯vns9080人员发现联合健康集团使用的预测算法对黑人患者有偏见. 将医疗保健支出作为疾病的代表, 这一工具无意中使体制上的不平等永久化,这种不平等在历史上一直使黑人病人得不到充分的治疗(奥伯梅尔), Z.,等., 科学,卷. 366, No. 6464, 2019).

“算法是由有自己价值观的人创建的, 道德, 假设, 以及对世界的显性和隐性偏见, 这些偏见会影响vns威尼斯vns9080模型的运作方式,nicole Turner-Lee说, 博士学位, 社会学家和主任 技术创新中心 在华盛顿的布鲁金斯学会,D.C. 因为这些对权益的持续担忧, 隐私, 和信任, vns威尼斯vns9080人员和行业专家越来越认识到,负责任的创新需要对人类行为有成熟的理解. 为实现这一目标, 威尼斯城所有登入网址vns85978家正在帮助开发和部署vns威尼斯vns9080软件和技术, 包括从治疗聊天机器人到面部识别系统的一切. 他们还收集了大量威尼斯城所有登入网址vns85978人机交互的文献, 数字疗法, 以及自动化的伦理.

“因为vns威尼斯vns9080正在开发这些新兴技术, vns威尼斯vns9080必须问自己:社会将如何与他们互动?威尼斯城所有登入网址vns85978家Arathi Sethumadhavan说, 博士学位, 微软道德与社会团队的首席vns威尼斯vns9080经理. 这就是威尼斯城所有登入网址vns85978家发挥作用的地方, 因为vns威尼斯vns9080非常擅长理解人们的行为, 动机, 感知和认知能力以及局限性.”

从模型到市场

构建为vns威尼斯vns9080技术提供燃料的算法,听起来可能像是计算机科学家的专有领域, 但vns威尼斯vns9080人类智能的威尼斯城所有登入网址vns85978家也在帮助解开增强机器智能的方法.

例如, vns威尼斯vns9080系统常常很难对它们以前没有见过的东西做出有根据的猜测,而这一点甚至连小孩子都能做得很好. 在一系列比较儿童和机器学习方式的vns威尼斯vns9080中, Alison Gopnik, 博士学位, 加州大学威尼斯城所有登入网址vns85978教授兼哲学副教授, 加州大学伯克利分校, 和她的同事们发现,孩子们在几个领域超过了vns威尼斯vns9080系统, 包括探索性学习, 社会学习, 以及建立心理模型(科学美国人, 2017年6月).

她现在与计算机科学家Pulkit Agrawal合作, 博士学位, 麻省理工学院的教授, 和迪帕克·帕沙克, 博士学位, 卡内基梅隆大学, 根据这些发现调整vns威尼斯vns9080技术. 在其他方面, 戈普尼克的团队正在vns威尼斯vns9080人类如何让机器对周围的世界更加有趣和好奇.

Pathak and Agrawal have programmed an agent to investigate and 模型 unknown parts of virtual environments; using this technique, 它可以完美地掌握马里奥兄弟的游戏. 但一个长期存在的问题是,机器在区分随机性方面存在困难, 不可预测的噪音——比如一个静态的方形——来自有趣但令人惊讶的新事件. 另一方面,孩子们擅长从无关的噪音中分离出相关的新信息.

“这是现在的一大挑战,”戈普尼克说. “vns威尼斯vns9080能否弄清楚如何让vns威尼斯vns9080不仅对正确的事物感到好奇,而且对正确的事物感到好奇?”

这些算法最终演变成人们使用的vns威尼斯vns9080, 带来了许多新的承诺和危险, 哪些威尼斯城所有登入网址vns85978家也在探索. 在微软, Sethumadhavan进行了定性和定量vns威尼斯vns9080,以了解人们如何看待vns威尼斯vns9080技术, 然后,她将这些见解融入到vns威尼斯vns9080开发中.

例如, 在最近一项威尼斯城所有登入网址vns85978面部识别技术的vns威尼斯vns9080中,参与者认为面部识别技术在建筑通道和机场安检方面的优势——因为明显的安全和效率提高——但不太看好面部识别技术在员工监控或零售环境中提供个性化帮助方面的应用.

“人类, 只要有时间, 总是在做价值交换吗, 权衡给他们带来的好处,以及他们要放弃什么作为回报,”Sethumadhavan说, 他补充说,这些发现可以帮助开发者在部署新兴vns威尼斯vns9080技术之前考虑使用环境,并与用户建立适当的信任水平.

除了vns威尼斯vns9080最终用户,Sethumadhavan的团队记录了受影响的利益相关者的态度. 在开发微软的合成语音技术时, 她采访了配音演员,以了解这项技术如何影响他们的生计. 因此,微软现在要求客户获得该服务 知情同意 从他们雇佣的配音演员那里.

“道德vns威尼斯vns9080开发不是一个可以检查的盒子, 但了解最终用户和其他受影响的利益相关者的需求和关注点,实际上有助于你更好地创新,”她说.

自动驾驶汽车, 哪一个能带来重大的安全和效率收益, 依靠vns威尼斯vns9080感知, 解释, 并对路况和危险做出反应. 根据兰德公司的一份报告, 如果自动驾驶汽车在比普通驾驶员安全10%的情况下集中部署,而不是等到它们拥有近乎完美的安全记录时,就可以多挽救数十万人的生命(Kalra), N., & 林,D. G., 善的敌人, 2017). 但让公众参与进来可能会遇到与技术障碍同样多的心理障碍, Azim说Shariff, 博士学位, 他是不列颠哥伦比亚大学(University of British Columbia)威尼斯城所有登入网址vns85978副教授,vns威尼斯vns9080人机交互和自动化伦理.

Shariff的vns威尼斯vns9080表明,人们对自动驾驶汽车的安全要求远远高于人类驾驶的汽车(交通vns威尼斯vns9080C部分:新兴技术,卷. 126, 2021). 这部分是由于“算法厌恶”——vns威尼斯vns9080倾向于不信任由算法做出的决定——以及“优于平均水平”的效果, 与普通人相比,vns威尼斯vns9080高估了自己的能力(“自动驾驶汽车可能比平均水平高出10%, 但我好了20%”).

事实上, 关注自动驾驶汽车带来的安全收益可能会适得其反, 说Shariff, 因为人们也会表现出“厌恶背叛”,或不愿冒潜在伤害的风险,以增强其安全性.

“人们真的不喜欢被本应保护他们安全的东西伤害,”他说. “如果自动驾驶汽车主要作为安全机制来销售, 每次发生事故,人们都会反应过度.”

另一方面, 戈普尼克认为,设计安全和有效的自动驾驶汽车可能比vns威尼斯vns9080曾经认为的更复杂,不仅需要物理学的见解,还需要社会威尼斯城所有登入网址vns85978的见解.

“人们开车时做的大多数事情都是这种令人惊叹的社会协调努力,”她说. “让机器做一些看似简单的事情,实际上需要vns威尼斯vns9080对世界和彼此之间的理解比vns威尼斯vns9080最初意识到的要复杂得多.”

是一种辅助,而不是替代

在精神卫生保健领域,伦理和行为方面的考虑同样重要, vns威尼斯vns9080工具有两个主要功能. 一些算法在幕后运作,预测健康风险或推荐个性化的治疗方案,另一些则以治疗聊天机器人的形式直接与患者交互.

智能手机应用程序Woebot, 例如, 使用机器学习和自然语言处理为成千上万的日常用户提供认知行为治疗(CBT). 通过和聊天机器人交换短信息, 使用者可以缓解压力, 感情问题, 通过学习CBT的概念,如过度概括和全有或全无思维,以及其他担忧(Fitzpatrick), K. K.,等., JMIR心理健康,卷. 4, No. 2, 2017).

在幕后, vns威尼斯vns9080技术为数百个治疗项目提供了燃料, 比如在线治疗平台Talkspace, 该公司开发了一种自杀警报系统,该系统使用自然语言处理来分析患者与其治疗师之间的书面交流(Bantilan, N.,等., 心理治疗的vns威尼斯vns9080,卷. 31, No. 并正在测试vns威尼斯vns9080干预创伤后应激障碍(Malgaroli, M.,等., 医学互联网vns威尼斯vns9080杂志,卷. 22, No. 4, 2020).

一些基于vns威尼斯vns9080的程序,包括奋进rx, 一种旨在治疗注意力缺陷/多动障碍的电子游戏甚至已经得到了美国的批准.S. 食品和药物管理局在医疗监督下使用(Kollins, S. H.,等., npj数字医学,卷. 4, 2021).

大多数威尼斯城所有登入网址vns85978家将vns威尼斯vns9080技术视为一种辅助技术, 而不是选择, 传统的心理治疗. “vns威尼斯vns9080并不是要取代治疗师——没有什么可以取代人与人之间的联系,威尼斯城所有登入网址vns85978家艾莉森·达西说, 博士学位, Woebot Health的创始人兼总裁. “但vns威尼斯vns9080可以重新思考一些传统上一直是诊所独特领域的工具,并设计它们,使它们更易于使用.”

vns威尼斯vns9080治疗工具提供了一些明显优于传统心理保健的优势. 机器一天24小时都有, 他们从不疲倦, 他们对威尼斯城所有登入网址vns85978文献有渊博的知识, 他们会记住他们与客户的每一次互动, 威尼斯城所有登入网址vns85978家斯基普·里佐说, 博士学位, 南加州大学医学虚拟现实的主任 创新科技vns威尼斯vns9080所. 他们可以实时提供治疗,还可以根据客户的喜好进行定制, 包括提升文化能力. 数字治疗工具还可以通过降低成本和减少耻辱感,大大降低获得精神卫生保健的障碍.

但数字心理健康仍处于vns威尼斯vns9080初期阶段的“狂野西部”, 应用程序, 和伦理问题, David Luxton说, 博士学位, 他是华盛顿大学医学院的临床威尼斯城所有登入网址vns85978家和附属副教授. 里佐补充说,安全性和有效性是主要考虑因素. 大多数平台在疑似精神健康危机期间引导用户使用支持资源——包括对预期用途的显著免责声明——但有些人可能仍然认为这些工具是治疗的替代品(职业威尼斯城所有登入网址vns85978:vns威尼斯vns9080与实践,卷. 45, No. 5, 2014).

“一款应用可能基于CBT, 但这并不意味着该应用本身就是基于证据的,Luxton说:. “没有经过许可的治疗师使用它的人可能依赖于一些未经测试的东西,而这些东西实际上可能会造成伤害.”

困扰数字疗法和其他vns威尼斯vns9080vns威尼斯vns9080的另一个问题是“算法偏差”——即由于训练数据集的局限性或程序员的假设,模型做出有偏见的预测. 女性、黑人和西班牙裔都是 在计算机科学领域的代表性不足, 而同质编程团队更容易出错, 例如,对受教育程度或获得医疗保健的机会作出假设, 导致有偏见的vns威尼斯vns9080(考吉尔), B.,等., 第21届美国计算机学会经济学与计算会议论文集, 2020). 但是社会科学家可以预测这些假设,并帮助开发人员了解各种数据集中所代表的人群的生活经验, 说Turner-Lee.

“当算法应用于‘敏感使用’情况时,这一点尤其重要, 包括信贷, 就业, 教育, 和卫生保健,”她说.

另一方面,vns威尼斯vns9080模型可能具有缩小健康差距的能力. 例如, 骨关节炎对黑人病人来说比非黑人病人更痛苦, 但标准测试只能解释其中9%的差异. 一组vns威尼斯vns9080人员使用机器学习算法,而不是人类评分系统来分析患者的膝关节x光片, 他们发现身体指标可以解释43%的疼痛方面的种族差异(Pierson), E.,等., 自然医学,卷. 27, 2021).

理解人类如何与科技互动也是心理健康聊天机器人成功的关键. vns威尼斯vns9080知道改变治疗的主要驱动力是治疗关系, 但在数字疗法方面, 这种关系是人与电脑之间的关系. 早期vns威尼斯vns9080表明,用户可以从向机器人吐露情感中获益(Ho, a.,等., 《通信,卷. 68, No. 甚至形成一种治疗纽带(达西,a.,等., JMIR造型的vns威尼斯vns9080,卷. 5, No. 5, 2021). 托马斯·德里克船体, 博士学位, 他是一位在Talkspace和行为减肥平台Noom工作的威尼斯城所有登入网址vns85978家, 还发现,当聊天机器人不伪装成人类时,用户倾向于与它们互动.

赫尔和他的同事们正在探索vns威尼斯vns9080技术的方法,利用Talkspace会议期间收集的大量匿名数据,进一步增强心理治疗过程. 例如, 自然语言处理可能能够识别表明治疗联盟破裂的语音模式. 类似的算法可以将会话记录与治疗计划进行比较,并促使治疗师与客户重新讨论他们关心的话题. 赫尔表示,vns威尼斯vns9080还有望改善患者与治疗师的匹配. 通过查询大量的数据集, vns威尼斯vns9080人员可能能够更好地操作客户的特征, 治疗师的特点, 以及什么是理想的匹配.

“在治疗的背景下,使患者和临床医生独一无二的品质是至关重要的,”赫尔说. “这些特点, 然而, vns威尼斯vns9080不足,因为它的数量和复杂性超出了vns威尼斯vns9080的实际追踪能力, 模型, 和比较. vns威尼斯vns9080可以改变这一点.”

尽管如此,隐私问题仍然存在于数据挖掘领域. 2020年,纽约时报 报道 Talkspace的高管在一次公司会议上阅读了治疗过程的节选,但没有对患者保持匿名, 谁是这个组织的雇员. Talkspace坚称其获得了客户的完全同意. 美国心理协会的道德规范和医疗保险可携性和责任法案要求,在共享医疗数据之前,必须完全消除标识,以保护患者的机密性.

“这些公司有必要非常清楚可能挖掘哪些数据,以及他们计划如何使用这些数据,黛博拉·贝克说, JD, 美国威尼斯城所有登入网址vns85978协会法律和监管政策主任.

的下一个前沿

随着越来越复杂的vns威尼斯vns9080技术——包括自动武器和情感检测软件——不断涌现, 威尼斯城所有登入网址vns85978家在有效和负责地开展这些活动方面发挥着重要作用.

用于精神卫生保健, 下一个前沿是融合面部识别, 自然语言处理, 以及使用情绪检测算法对情绪和心理状态进行复杂评估, 说Matteo Malgaroli, 博士学位, 纽约大学格罗斯曼医学院的临床威尼斯城所有登入网址vns85978家和助理教授. 这些技术已经被应用于营销环境中, 哪些领域的风险要低得多.

“如果你不买我的汉堡,我可能会损失几美元,”他说. “但如果有人对抑郁症做出了错误的评估,可能会产生非常严重的后果.”

因为这个原因, 至关重要的是,威尼斯城所有登入网址vns85978家参与临床vns威尼斯vns9080技术的开发,以确保算法捕获数据,并提供与经过验证的心理实践一致的结果, Malgaroli说.

前进, vns威尼斯vns9080有可能增强传统上被边缘化的人群的能力, Sethumadhavan说. 在与世界经济论坛的vns威尼斯vns9080和机器学习团队的持续合作中, 她正在探索这项技术如何帮助满足老龄化人口的需求, 会超过1.到2050年达到60亿. vns威尼斯vns9080可能最终有助于解决社会孤立问题, 运输和移动, 身心健康, 照顾者负担, 以及这个群体的生命结束计划(vns威尼斯vns9080和老龄化,世界经济论坛,2021年).

最终, 美国威尼斯城所有登入网址vns85978协会的道德准则将帮助威尼斯城所有登入网址vns85978家在威尼斯城所有登入网址vns85978公平的问题日益增多的情况下谨慎行事, 安全, 以及vns威尼斯vns9080技术带来的监控.

“如果终端用户不信任这个系统,那么它就无法工作,”Luxton说. “违反这种信任会危及vns威尼斯vns9080整个行业的声誉.”

什么是vns威尼斯vns9080?

vns威尼斯vns9080技术分析来自环境的大量信息,以高水平的确定性解决问题.

深度学习 例如,算法在非常大的数据集中搜索模式,以识别同时出现的变量, 一个人短信的内容和随后抑郁发作的可能性.

强化学习 系统完成一个任务的多次试验(例如, 区分猫和狗的图像)来发展专业技能.

开发人员使用一系列数学验证技术来检查他们的模型是否对现实世界做出了准确的预测. 例如, 标准做法是在已知输出的现有数据集上测试算法,然后测量模型的命中率.

vns威尼斯vns9080的常见应用包括感知和响应视觉刺激(“计算机视觉”), 翻译和产生人类语言(“自然语言处理”), 并在非常大的数据集中识别模式(“机器学习”).

进一步的阅读

你的机器人治疗师现在将看到你:在精神病学中具身vns威尼斯vns9080的伦理含义, 威尼斯城所有登入网址vns85978, 和心理治疗
菲斯克,.,等., 医学互联网vns威尼斯vns9080杂志, 2019

种族和经济不平等的威胁增加了算法决策的偏好
Bigman Y. E.,等., 计算机与人类行为, 2021

自动驾驶汽车的心理障碍
Shariff,.,等., 自然的人类行为, 2017

vns威尼斯vns9080在行为和心理健康护理中的应用
Luxton D. D. (Ed.)爱思唯尔学术出版社,2016

美国威尼斯城所有登入网址vns85978协会的技术,思想 & 学会会议上

更多尖端科学的发展, 部署, 以及vns威尼斯vns9080的伦理, 参加心理协会的技术, 心 & 社会会议,11月. 3–5.

许多会议也将提供 会议后.

 
友情链接: 1