ChatGPT 让科研编程不再难！
基于生成式人工智能工具，比如 ChatGPT、Bard 等聊天机器人的出现，以及如何将 AI 工具用于学术研究引发了巨大的争议，但与此同时，AI 生成的代码用于科学研究的价值被忽视了。
与 ChatGPT 生成文本导致的剽窃问题相比，用 AI 抄代码显然争议更小，开放科学甚至鼓励「代码共享」和「代码重用」，溯源起来也很方便，比如 python 里用到「import」导入依赖包就算引用。
最近 Nature 上发表了一篇评论文章，作者团队讨论了 ChatGPT 在科学编程领域的三个潜在能力，包括头脑风暴、分解复杂任务、以及处理简单但耗时的任务。
研究人员通过使用 ChatGPT 将自然语言翻译成计算机可读代码，探索了使用生成式 AI 来增强科学编码的能力和局限性。
实验中的例子主要探索了可能与生态学、进化及其他领域相关的通用任务，研究人员发现，使用 ChatGPT 可以完成 80%-90% 的代码编写任务。
如果任务被分解成小的、可管理的代码块，并带有精确的提示作为查询，ChatGPT 可以生成非常有用的代码。
值得注意的是，用 Google 的 Bard 进行同样的实验通常会得到类似的结果，但代码中的错误更多，所以这篇文章主要使用 ChatGPT 进行实验。
第一作者 Cory Merow 是一位定量生态学家，主要研究方向是建立机制模型来预测人口和社区对环境变化的反应。即使是最好的数据集在预测全球变化反应方面也是不完善的，所以需要开发一些工具来结合数据源和探索数据集，以深入了解生物系统可能发生的变化。
ChatGPT 以回归模型 GPT-3 为基础，在海量的网页、书籍等文本上进行拟合训练，不需要搜索即可生成文本。
所以 ChatGPT 更擅长内插（interpolating，即预测与训练数据相似的文本），而不擅长外推（extrapolating，即预测与训练样本不同的新文本）。
训练集的庞大规模是一个优势，意味着 GPT-3 已经看到了大量的语言模式，使其能够内插并增加生成对人类有用回复的可能性。
不过对代码生成任务来说，GPT-3 并不知道如何编程，只是知道代码看起来像什么样，以及哪些词最可能出现在下一个位置，其工作原理类似于自动补全，基于概率模型预测下一个代码块（chunk），块通常比词（word）要小，也可以叫做 token
生成正确 token 的概率基于所有 token 的概率乘积，即增加预测 token 的数量或降低选中 token 的确定性会增加任务的难度，从而降低获得正确 token 的概率。
因此，想要增加正确 token 的概率，需要缩短生成任务的长度，或是提供更具体的指令。
最后，研究人员提醒，ChatGPT 生成的文本有些看起来像代码，但可能无法执行，所以在编码过程中需要仔细观察调试。
ChatGPT 可以很好地检索多个数据源，例如在生态领域可以同时获取植物性状、物种分布区域和气象数据。
虽然 ChatGPT 提供的数据有些是不正确的，但通过其提供的链接可以很快地校正这些错误。
不过 ChatGPT 并不能写爬虫从网站上下载数据，可能是因为 R 语言的包和底层应用程序接口（如 R 访问数据库的协议）更新过快，毕竟 ChatGPT 的训练数据是在 2021 年构建的。
ChatGPT 可以在遇到特定问题时提出各种统计技术，在后续的提问中可以生成更多基于用户假设的指导意见，并提供一份初始代码。
不过综合（synthesis）过程只适用于提出并交流想法，仍然需要通过传统的数据源（如论文等）进行事实核查。
需要注意的是，一些网站声称 ChatGPT 有能力对书籍写摘要，不过从研究人员的测试结果来看，这种摘要综合的结果完全不对，可能是因为测试用的书籍没有在 GPT-3 训练集中出现。
ChatGPT 非常擅长生成模板代码，在特定指令下提供一份包含少量函数的短脚本代码。
比如下面的例子中，研究人员要求 ChatGPT 将四个常用函数的输入和输出串一起。并提供一个将此函数用于模拟数据的示例代码。
可以看到 ChatGPT 生成的结果几乎是完美的，调试代码只花了几分钟，不过需要在提示中非常具体地说明 query，包括提供命名和用到的函数。
研究人员发现，成功的关键在于：
1、将复杂任务分解成多个子任务，每个子任务最好只需要少数几个步骤即可完成，毕竟 ChatGPT 生成的代码是基于概率文本预测模型的结果。
2、ChatGPT 在使用已经存在的函数时表现最佳，因为这时只涉及内插而非外推。
例如，使用正则表达式（regex）从文本中提取信息的代码对于许多开发人员来说是非常困难的，不过因为已经有正则网站提供了大量在线示例，并可能出现在 ChatGPT 示例中，所以 ChatGPT 写正则的性能还是不错的。
3、学术界对 ChatGPT 最大的批评之一是其信息来源缺乏透明度。
对于代码生成任务，通过指定「命名空间」（namespace），即在使用函数时显式调用包名可以实现一定程度的透明性。
不过 ChatGPT 可能会直接复制个人的公开代码而没有引用出来，并且研究人员仍然有责任验证正确的代码归属人。
同时，如果要求生成更长的脚本会暴露出一些 ChatGPT 的缺陷，例如伪造函数名或参数等，这也是 StackOverflow 禁用 ChatGPT 生成代码的原因。
但如果用户提供了一组明确的执行步骤，ChatGPT 仍然可以生成一个有用的工作流模板，定义步骤之间的输入和输出之间的连接，这可能是用 GPT-3 外推生成新代码的最有用的途径。
目前 ChatGPT 还不能将伪代码（用简单语言描述的算法步骤） 转换为完美的计算机可执行代码，但这可能离现实并不遥远。
ChatGPT 对于初学者、不熟悉的编程语言来说特别有帮助，因为初学者只会写一些较短的脚本，调试更方便。
ChatGPT 最擅长解决的是耗时的公式化任务，可用于调试、检测和解释代码中的错误。
ChatGPT 在编写函数文档时也非常有效，例如使用 roxygen 2 的内联文档语法，在标识出所有参数及类上非常高效，不过却很少解释如何使用函数。
一个关键的限制是 ChatGPT 的生成被限制在大约 500 个单词，只能专注于较小代码块的生成，同时还可以生成单元测试以自动化确认代码功能。
ChatGPT 给出的大多数建议在定义测试的结构和检查预期的对象类方面是很有帮助的。
最后，ChatGPT 在对代码进行重新格式化以遵循标准化（例如 Google）代码样式方面非常有效。
未来属于伪代码
ChatGPT 和其他人工智能驱动的自然语言处理工具已经准备好将开发人员的简单任务进行自动化，例如编写短函数，语法调试，注释和格式化，而扩展复杂性取决于用户的调试意愿（以及他们的熟练程度）。
研究人员总结了 ChatGPT 在代码生成上的功能，可以简化科学领域的代码编写过程，不过人工检查仍然是必要的，可运行的代码并不一定意味着代码能够执行预期的任务，因此单元测试或非正式的交互式测试仍然至关重要。
在解决方案可能由人类开发，并由 ChhatGPT 简单复制生成的情况下，确保正确的代码归属人至关重要。
目前已经有聊天机器人开始自动提供指向其来源的链接（例如，微软的必应），尽管这一步还处于起步阶段。
与传统方法相比，ChatGPT 提供了一种学习编码技能的替代方法，通过将伪代码直接转换为代码，可以缓解编写初始任务的障碍。
研究人员怀疑未来的进展将使用 ChatGPT 这样的工具来自动调试编写的代码，根据遇到的错误迭代地生成、运行和提出新代码，在实验过程中，研究人员发现纠正代码的能力有限，只有在非常具体的指令针对小代码块时才会偶尔成功，调试过程的效率远低于人工调试。
研究人员猜想，随着技术的进步（比如最近发布的 GPT-4 模型 ，据称比 GPT-3 模型大 10 倍），自动化调试将会得到改进。
未来即将到来，现在是开发人员学习提示工程技能以利用新兴 AI 工具的时候了，研究人员预计，使用人工智能生成的代码将成为软件开发各个方面越来越有价值的技能，这些技能是科学发现和理解的基础。
参考资料：
https://www.nature.com/articles/s41559-023-02063-3
本文来自微信公众号：新智元 （ID：AI_era）
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。