内容
资料来源：Artinspiring / Dreamstime.com
带走：
为了使自动化能够与人类合作并为人类服务而不是与人类对抗，我们需要采取措施来保护和告知人类，以使其能够停止或修复系统错误。
“人非圣贤孰能;威廉·E·沃恩（William E. Vaughan）早在1969年就做出了这一观察。将控制权交给自动化系统，有可能使该系统出现故障，并在检查之前造成严重伤害。
自动化并不是什么新鲜事物，但是由于数字和物理系统的集成，它变得越来越普及。大规模自动化的好处在于效率高。但是，依赖于“设置后忘了”系统的缺点是，有人可能无法正确设置它。
有了一个无需干预即可停止机械的简单系统，您可能会造成破坏性影响。因此，当看上去似乎使生活变得更轻松的事情实际上失去控制时，技术人员可以创造出“魔法师的学徒”中描述的那种情况。
被机器发射
去年，在没有干预的情况下进行自动化的做法导致英国的一名技术工人无缘无故地失业。易卜拉欣·迪亚洛（Ibrahim Diallo）注意到他的安全检查卡无法正常工作，并发现这是因为他失业了。他在活动的扩展博客文章中给了“机器炒了我”的头衔。
最终，Diallo被终止的原因不是某种算法的评估来确定谁应该被淘汰。问题不在系统内部，而是人为错误之一。在这种情况下，这完全是对人未能输入Diallo的合同续订信息的自动响应。
这不是机器决定他应该被特别解雇的原因。它只是对状态不再显示的某人执行编程的步骤。正如他在评论中所阐明的那样，这实际上不是AI，而是“自动化脚本”。（要了解AI如何帮助企业（而不是伤害企业），请查看AI可以为企业做什么。）
自动化和工作中断
人们在描述我们在自动化的未来中可以期待的巨大收益时，这种效果并不完全是人们所设想的。通常情况下，随着自动化完成任务，工作将发生变化，工作将被重新定义-不会被自动化系统终止。但是现实是，某些工作将被淘汰，而拥有这些工作的人不一定能够在很大程度上自动化的行业中无缝过渡到新的职业。
工作中断是埃隆·马斯克（Elon Musk）为AI兴起所设想的较小风险之一，尽管他自己对就业的影响远比费兹杰拉德（Fitzgerald）悲观得多。马斯克认为，人工智能需要严格的监管，因为它对人类文明构成了根本性的，存在的风险。
没有错误，没有压力-在不破坏生活的情况下创建可改变生活的软件的分步指南
当没有人关心软件质量时，您就无法提高编程技能。
消费电子产品的应用
尽管马斯克拥有自己的技术证书，但该领域的一些专家，例如曾担任麻省理工学院计算机科学和人工智能实验室的创始主任的罗德尼·布鲁克斯，以及共同创立了iRobot和Rethink Robotics的马斯克，都说马斯克对AI的威胁以及机器人技术的理解是错误的。实际运作。
在接受TechCrunch采访时，布鲁克斯表示，在技术不成熟到我们可以准确确定必须遵守的法规的程度的情况下，呼吁法规是很困难的。他向马斯克发起挑战：“告诉我，您想改变什么行为，埃隆？”
布鲁克斯确实承认，机器人会带来工作岗位的流失。但他还认为，可以改变行业范式以跟随消费电子产品的范式。
他在TechCrunch采访中所说的方式是：“我们在制造设备方面有着悠久的传统，它具有可怕的用户界面，而且很难，而且您必须参加课程，而在消费电子产品中，我们制造的机器可以教人们如何使用它们。”
他说的这应该是改变我们与“工业设备和其他类型的设备的联系，使这些机器教人们如何使用它们”的方式的目标。
重新获得控制权
Brooks的建议可能会向我们指出解决人为错误问题的方向，这将引发似乎逐渐失去控制的自动化流程。回到“巫师的学徒”中米奇的不幸经历，问题全源于激活系统的人，但没有与之通信的真正方法，无法阻止或改变方向。
但是，如果界面是根据消费电子产品而不是传统的工业模型制造的，那么它实际上可以将控制权交还给人类。为了真正有效，该界面不仅必须易于访问，而且还应设计成使人们始终了解正在发生的事情，提供有关已收到的更新以及已采取的措施的数据。
如何运作
对于Diallo的意外解雇，这意味着自动系统不仅会将他锁定在系统之外，然后向他的招聘人员提供解雇的信息。首先，它将认识到合同续签没有在预期的日期进行。在开始解雇行动之前，它将为经理和招聘人员提供有关缺乏续约以及如果不采取行动一天之内后果的最新信息。
这种警报将使人们能够就是否继续进行自动化或进行干预以纠正人为错误（是造成问题的最初原因）做出明智的决定。但是人们也必须尽自己的一份力量，响应警报并采取适当的行动。换句话说，布鲁克斯提出的关于行为的问题的答案适用于人类。面对自动化，他们必须减少被动。 （有关人机协作方式的更多信息，请参阅引导人为因素：策略，过程和过程。）
正如Diallo在其博客的评论部分中所写的那样，之所以能够做到这一点，是因为人们拒绝反对该机器：
另一个被忽略的事情是，即使每个人都知道触发它的是人为错误，并且纯粹是错误，他们还是选择遵循s。这就像在医院里贴上“禁止吸烟”的标语，人们尊重标语而不是常识。
因此，为了使自动化能够与人类一起工作而不是与人类为敌，我们需要采取的政策是双重的：在机器方面，我们需要可访问且信息丰富的界面，而在人方面，我们需要人有权确定什么时候不对劲并介入纠正。