GPT-4 考过 MIT 造假,三位教授联名「甩锅」,猪队友作弊,抢发论文

GPT-4 考过 MIT 风波再爆大瓜。刚刚,MIT 共同作者亲自澄清问题,竟因「猪队友」抢发,使用未经允许的数据集酿成大祸

论文作者「官方打假」来了!

前段时间,GPT-4 通过 MIT 数学本科考试,甚至拿了接近满分成绩引众多网友围观。

然而,这篇论文刚发布,就被同校学生爆出「数据集」有问题,结果并不准确。

没想到,爆料一出,AI 界大佬 LeCun、马库斯等纷纷出来发声。

今天,来自 MIT 的论文作者正式给出了解释。

让人大跌眼镜的是,作者之一的 Iddo Drori,竟然是在没有得到其他人允许的情况下,擅自抢发了论文。

甚至有共同作者表示,自己是在周末外出旅行后,才得知论文已经发了。

而且,Iddo 据称不仅「隐瞒」了自己实际采用的方法,而且在发表前就已经被告知,论文中还有问题没有修改……

声明全文

在 6 月 15 日,Iddo Drori 在 arXiv 上发布了一份与麻省理工学院(MIT)几十门课程考试和作业数据相关的论文。

然而他这样做并没有得到许多共同作者的同意,尽管被告知在发表之前应该纠正一些问题。而且我们当中的一些人在周末外出旅行后,在 6 月 18 日星期天才得知论文已发。

在解决这个问题的过程中,我们发现,与 Iddo Drori 向我们和收集数据的学生传达的相反,Iddo 没有得到所有导师的许可来收集构成论文主题的作业和考试题的数据集。

当论文在社交媒体上出现,并且 Iddo 未经任何人许可在网上发布数据样本时,一些课程导师才了解到这个数据集的存在,以及他们的课程材料被纳入其中。

这些都是正在通过机构渠道进行处理严重的问题,因此我们没有轻率地在公开场合对此进行声明,但我们认为解释为什么这篇论文不应该被发表并且必须被撤回是很重要的。

我们已要求 Iddo 从 arXiv 上撤回论文,并直接联系了 arXiv,解释了这个情况。

我们想强调的是,在这篇论文中,所有学生作者都非常努力地工作,如果数据是经过同意收集的话,这篇本来可能是非常有趣和有价值的论文。已发表的论文的许多问题并不是学生的过错。

而且,GPT-4 不能获得麻省理工学院学位。

网友:怕不是甩锅吧

对于这份声明,LeCun 转发点评道,「感谢澄清」。

曾指出问题的 Raunak Chowdhuri,也已经把更新进行了置顶。

不过,有网友指出,这篇论文的问题并不在于有没有「同意」发表,而是在于「方法」本身。

而现在看起来是,这些作者希望自己的名字出现在这篇可能会爆火的论文上,但又不希望承担出错之后的责任。

如果论文并没有被人「打假」,那么也不会有这篇所谓的「公开声明」—— 迫使其中一些作者与论文割席。

显然,作为论文的共同作者,你必须对你署名的工作质量负责。

也有网友表示:「这是我一生中见过最糟的替罪羊。」

有趣的是,除了论文「造假」被人抓包之后的急忙甩锅 —— 我虽然署名了,但这个问题和我无关。此前在顶会 IJCAI 2016 上也出现了原理相似的一幕 —— 在论文被接收后,疯狂拉人。

「作者 X 其实参与了,只不过我们没来得及写上。」

文章地址:http://ijcai-16-pc.blogspot.com/ 2016/04 / the-increasing-practice-of-expanding-co.html

就在接收名单发送后的第二天,我们发现,有人试图向他们已被接受的论文里添加额外的合作者。

我理解有时在论文提交后,可能会从同事那里得到非常重要的帮助,我们自己的研究组也偶尔这样做。但突然有 50 多篇论文都需要,就有些奇怪了。

更令人惊讶的是,其中有很多人发现,他们不仅有一位被遗忘的合作者,而是有「多位」(有时多达 4 个)被遗忘的合作者。

显然,谚语「成功有很多父母,而失败则无人问津」在这里得到了充分的体现。

不过,我们在审稿期间每周都会备份截图,所以知道所有论文的原始作者。(这也是最终在接收名单上所呈现的)。

GPT-4 攻破 MIT 考试

GPT-4 在 MIT 考试中开挂这个结果一经公布,吸引了众多目光。

同样的测试,GPT-3.5 搞定三分之一,而 GPT-4 全拿下了。

这张图表,便成为论文中最亮眼的那一部分。

6 月 15 日,由 MIT、波士顿大学,以及康奈尔大学的研究团队发表最新论文,展示了 GPT-4 在 MIT 考试中的能力。

论文地址:https://arxiv.org/ pdf / 2306.08997.pdf

论文中,研究人员自制了一个数据集,其中涵盖了 4550 个问题和解决方案。

这些包括,MIT 数学系和 EECS 的学生获得本科学位的课程问题集、期中考试和期末考试。

具体如下:

研究人员从数据集中随机生成 228 个问题,不涉及已有图像和解决方案的问题。

然后,让 5 个最先进的语言模型模型一起参加了这场考试:GPT-4、GPT-3.5、StableVicuna-13B、LLaMA-30B 和 LLaMA-60B。

最终结果发现,经过调优后的 GPT-4,拿到了 100% 的分数。而原始版本的 GPT-4,没有经过任何调优,也拿下了 90% 的分数。

而具体调优过程,如结果图中所示,包括 Few-shot+CoT+Self-critique+Experts。

每增加一个调优环节,GPT-4 的能力也就跃升一步。

而这篇研究当时有争议的地方,就在于让 GPT-4 给自己打分。

研究团队在数据集上,微调 GPT-4,给定问题 Q,基准解 S,和 LLM 的答案 A,便使用 GPT-4 自动对模型响应进行了评分。

GPT-4 给自己打满分,确实值得怀疑。

客座教授被指「抢发」论文

Iddo Drori

Iddo Drori 是波士顿大学计算机科学实践副教授,麻省理工学院的客座副教授,以及哥伦比亚大学的兼职副教授。

此前曾是麻省理工学院 EECS 的讲师,康奈尔大学运筹学和信息工程学的客座副教授,以及纽约大学数据科学中心、Courant 研究所和 NYU Tandon 的研究科学家和兼职教授。

他拥有计算机科学博士学位,并在斯坦福大学统计学领域进行过博士后研究。他还拥有组织行为学和创业管理的 MBA 学位,并拥有十年的工业研究和领导经验。

Iddo Drori 的主要研究领域是机器学习、人工智能和计算机视觉,发表了 70 篇论文,被引用超过 5200 次,教授过 35 门计算机科学课程。

他是剑桥大学出版社出版的教材《深度学习的科学》的作者。他在计算机视觉会议上赢得过多项竞赛,并在机器学习会议上获得过多个最佳论文奖项。

而就在刚刚,有网友敏锐地发现:「Iddo 现在不仅去掉了 LinkedIn 主页上『麻省理工学院客座教授』的头衔,而且他的客座职位似乎即将在这个月结束。」

三位共同作者

Armando Solar-Lezama

Armando Solar-Lezama 是麻省理工学院的电气工程和计算机科学(EECS)教授,同时也是计算机科学与人工智能实验室(CSAIL)的副主任兼首席运营官。

他是由美国国家科学基金会(NSF)资助的 Expeditions 项目「通过代码理解世界」的首席项目负责人,并且还是一个创建交互式演示文稿的在线平台 ——playskript 的创始人。

他的研究重点是程序合成。这是一个令人兴奋的研究领域,一方面,程序合成涉及使用自动推理和学习来帮助将更多自动化引入编程过程。另一方面,代码提供了一种独特的建模机制,因此程序合成可以在构建更可预测和稳健的学习系统方面发挥重要作用。

Tonio Buonassisi

Tonio Buonassisi 是麻省理工学院的机械工程教授。他的研究主要集中在太阳能光伏和技术经济分析领域,在许多公司的技术发展中发挥了重要作用,因此获得了美国总统早期科学家和工程师奖(PECASE)、美国国家科学基金会职业奖(CAREER Award)和谷歌教师奖。

在 MIT,Tonio Buonassisi 是可持续发展加速材料实验室的负责人,领导可持续材料开发的研究工作。他还曾担任新加坡加速材料制造计划的创始主任。此外,他还共同创办了初创公司 Xinterra 以及非营利性组织 Fraunhofer 可持续能源系统中心。

Tonio Buonassisi 在教育方面展现出了极高的热情和才能。他曾荣获麻省理工学院 Everett Moore Baker 杰出本科教学奖,他的教学影响不仅局限于课堂,还通过其 OpenCourseware / YouTube 光伏讲座系列获得了超过 179,000 次观看。他最近还制作了一系列名为「加速材料制造」的 YouTube 视频,重点关注人工智能在材料研究中的应用。

Yoon Kim

Yoon Kim 是麻省理工学院(EECS / CSAIL)的助理教授。之前在哈佛大学获得计算机科学博士学位,导师是 Alexander Rush。

他的研究兴趣包括:大规模模型的高效训练和部署、理解大语言模型的能力和限制、用符号机制控制和增强神经网络、计算和人类语言处理之间的联系。

变了味的研究

现在,GPT-4 可以说是已经被推崇成了 LLM 领域的全新「基准」。

这种趋势一方面在迫使研究人员将自己的工作与其进行比较,另一方面又催生了相当一部分只为跟风和炒作的研究。

不仅如此,OpenAI 在 GPT-4 技术报告中开创的「黑盒」方法,也被其他人纷纷效仿。

在 HackerNews 的讨论中,一位用户表示,机器学习已经不再是一个科学领域,而是变得像社会科学一样,建立在另一种不可证伪和不可重现的研究之上。

有媒体称,这次事件无疑是在人工智能领域树立了一个糟糕的先例,让大家对研究的真实性产生了质疑 —— 互联网上有多少论文实际上是有问题的?

随着「基准」GPT-4 开始涉足文章的撰写阶段,论文的质量预计还会有进一步下降。

参考资料:

  • https://people.csail.mit.edu/asolar/CoursesPaperStatement.pdf

本文来自微信公众号:新智元 (ID:AI_era)

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

文章价值:
人打分
有价值还可以无价值
置顶评论
    热门评论
      全部评论
      一大波评论正在路上
        取消发送
        软媒旗下人气应用

        如点击保存海报无效,请长按图片进行保存分享