这篇文章是转载的谈话基于知识共享许可协议。读了原文,2021年8月17日发表。
想象你有朋友过来吃午饭和计划订单意大利辣香肠比萨饼。你还记得艾米提到苏茜已经停止吃肉。你试着叫苏茜,但是当她不接,你决定玩玛格丽塔披萨,而不是安全的,只是顺序。
人们认为理所当然的能力定期处理这样的情况。在现实中,在完成这些壮举,人类依靠而不是一个强大的通用能力称为常识。
作为一个人工智能研究员,我的工作是一个广泛的努力的一部分给电脑一个表面上的常识。这是一个极具挑战性的努力。
快速——定义常识
尽管是普遍和必要的人类如何了解他们周围的世界,学习,常识不顾一个精确的定义。英国哲学家和神学家,切斯特顿著名的写在20世纪初,“常识是野生的,野蛮的,超出了规则。“现代定义今天同意,至少,这是一个自然的,而不是正式教,人的能力,允许人们日常生活导航。
常识是非常广泛的,不仅包括社会能力,期望管理和推理喜欢他人的情感,但也天真的物理意义,如知道一个沉重的石头不能安全地放置在一个脆弱的塑料表。天真,因为人们知道这样的事情虽然不是有意识地通过物理方程。
常识也包括背景知识的抽象概念,如时间、空间和事件。这些知识让人们计划,评估和组织不太确切。
常识是很难计算的
有趣的是,常识一直是重要的挑战前沿的人工智能自从在1950年代早期的字段。尽管巨大的人工智能的发展,特别是在玩游戏和计算机视觉、机械常识与丰富人类常识的仍然是一个遥远的可能性。这可能是为什么AI努力设计复杂,现实问题与许多交织的部分,如诊断和治疗建议COVID-19病人,有时失败。
现代人工智能是为了解决非常具体的问题,与常识相反,含糊不清,不能被定义的一组规则。有时甚至最新的型号做荒谬的错误,这表明某种根本性的缺失在艾未未的世界模型。例如,考虑以下文本:
“你倒一杯蔓越莓汁,然后茫然地,你倒一茶匙的葡萄汁。它看起来好。你试着嗅它,但你得了重感冒,所以你不能闻到任何东西。你很渴。所以你”
文本生成器GPT-3高度吹捧AI提供
“喝它。你现在死了。”
最近的雄心勃勃的努力承认机器常识是我们时代的一个月球探测器的人工智能问题,需要一个跨机构多年来共同协作。一个显著的例子就是四年机常识计划在2019年推出的美国国防高级研究计划局后加速,这一领域的研究机构发布了一份论文概述了研究的问题和国家。
机器常识项目基金目前很多研究工作机常识,包括我们自己的,多开放世界脚踏实地学习和推理(无忌)。无忌是我们研究小组之间的合作大学(University of Southern California)和人工智能研究人员从麻省理工学院,加州大学欧文分校、斯坦福大学、伦斯勒理工学院。该项目旨在建立一个计算机系统,可以回答一个广泛的常识问题。
变形金刚拯救吗?
原因之一是乐观最终破解机常识是最近发展的一种先进的深入学习人工智能叫《变形金刚》。变形金刚模型能够自然语言在一种强大的方法,和一些调整能回答简单的常识问题。常识问答是一个重要的第一步为构建聊天机器人能像人类的方式交谈。
在过去的几年中,a多产的研究发表在《变形金刚》,直接应用常识推理。这种快速进步作为一个社区,该领域的研究人员不得不面对两个相关问题在科学和哲学的边缘:只是常识是什么?我们如何确保一个AI有常识吗?
回答第一个问题,研究人员把常识分成不同的类别,包括常识性的社会学、心理学和背景知识。的作者最近出版的认为,研究人员可以更进一步的将这些类别划分为48个细粒度的地区,如规划、威胁检测和情绪。
然而,它并不总是清楚干净这些领域可以分离。在我们的最近的一篇论文实验表明,一个明确的答案,第一个问题可以有问题。甚至人类专家注释器——分析文本和其组件分类的人——在我们组不同意这方面常识应用到一个特定的句子。注释器同意相对具体类别像时间和空间,但不同意更抽象的概念。
认识到AI常识
即使你接受一些重叠和模糊理论常识是不可避免的,研究者们真的可以确定一个AI有常识吗?我们经常问机器的问题来评估他们的常识,但人类在日常生活中更有趣的方式。人们采用各种技巧,经过进化,包括识别基本因果关系的能力,创造性解决问题、评估、计划和必要的社会技能,如谈话和谈判。只要这个列表可能是不完整的,一个人工智能应该达到同样在它的创造者可以宣布胜利机常识的研究。
它已经变得非常明显,甚至研究变压器产生收益递减。变形金刚正变得更大、更电力饿。一个最近的变压器由中国搜索引擎巨头百度已经数十亿参数。需要大量的数据有效地训练。然而,到目前为止已经被证明无法理解人类常识的细微差别。
甚至深度学习先锋似乎认为新的基础研究可能需要在今天的神经网络能够做出这样的飞跃。根据这项新的研究是多么成功,没有告诉机器是否常识是五年,或50。