2024-03-21 16:14
胡琬琳的工作是改善人和人工智能协作的方式,以运行美国SLAC国家加速器实验室的复杂机器。胡琬琳在中国台湾省长大,初中时就决定要成为一名工程师,但不是普通的工程师。
她笑着说:“我想设计的系统,除了通常需要的开关和调整设置之外,还能在不需要人类输入的情况下工作。人类的决策过程相当复杂,阐明和预测其运作方式也相当具有挑战性。”
如今,胡琬琳已成为美国能源部SLAC国家加速器实验室的一名副研究员,专门从事“人机交互工程”的研究。该实验室是粒子加速器和电力系统等设备的所在地,这些设备对于人们来说太过复杂,无法自行运行,但仍需要人工操作来保证其正常运行。
胡琬琳说:“当人们设计自动驾驶系统时,比如汽车的自动驾驶系统,会非常努力地让一切都自动运行,就像变魔术一样。但实际上,人仍然非常重要。人们无法像机器那样处理大量复杂的数据,但更善于适应不断变化的情况。”
向最优秀的人学习
胡琬琳目前的项目是在实验室的加速器控制室里,通过一组组显示器、刻度盘和按钮,观察大约20个人如何操作一台极其庞大、复杂和精密的机器——直线加速器相干光源X射线自由电子激光器。
目标是学习经验丰富的操作员是如何做事的。这些知识需要多年的积累,而且难以用语言表达, 并将其应用于培训新手操作员,以便他们能够更快地掌握操作技能。
她还与SLAC机器学习计划负责人丹尼尔·拉特纳(Daniel Ratner)合作,改善人工智能系统与控制室中人类之间的协作。
“人们经常批评人工智能的一点是它的黑箱性质?!?span style="box-sizing: border-box !important;overflow-wrap: break-word !important;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-style: normal;font-variant-ligatures: normal;font-variant-caps: normal;font-weight: 400;letter-spacing: 0.544px;text-align: center;text-indent: 0px;text-transform: none;white-space: normal;word-spacing: 0px;-webkit-text-stroke-width: 0px;background-color: rgb(255, 255, 255);text-decoration-style: initial;text-decoration-color: initial;display: inline !important;float: none;color: rgb(34, 34, 34);font-size: 15px;margin: 0px;padding: 0px;outline: 0px;max-width: 100%;visibility: visible;">胡琬琳表示,人工智能通常能自动工作,但我们却不知道运算过程是什么。我们要做的一件事就是让人工智能的界面更加友好,这样操作员就能更好地解读人工智能,并在需要时介入,以获得更好的结果。
自动化的缺点
SLAC电网集成系统和移动实验室小组经理大卫·查辛(David Chassin)表示,当飞机变得如此复杂,以至于许多操作功能都必须自动化时,人机交互工程便应运而生。当时的假设就是这将使飞机更安全,也更容易操作。
但拉特纳说,自动化程度过高也会带来弊端:它会剥夺人类操作员在紧急情况下采取果断行动所需的经验。
拉特纳说:“如果一个系统变得过于自动化,人类操作员对系统内部情况的了解就会减少。这将导致系统在出错时更难恢复?!?br />
信任和良好反馈
胡琬琳表示,人机交互工程还面临着更微妙的挑战。
其中之一就是在人与机器之间建立信任。她说:“当系统以出乎意料的方式做出反应时,操作员可能会对它失去信心,在做某些事情时犹豫不决。反过来说,操作员可能会基于对机器行为方式的错误认识,给机器错误的输入。”
另一个问题是,以增强而不是降低绩效的方式向人类操作员提供反馈。
胡琬琳将在接下来的九个月里观察SLAC的加速器操作员是如何工作的,并询问他们为什么要这样做。最后,她表示,我们将创建一个模型,描述决策和解决问题的过程,使知识转移变得更容易。
来源 | 《Symmetry》期刊官网
编译 | ?槟榔郭
2025-08-22
2025-07-22
2025-07-11
2025-07-03
2025-04-15
2025-04-15
2025-04-15
2025-04-15