OpenAI探索GPT4在制造生物武器方面的优势

“

OpenAI进行的研究探索了大型语言模型（LLM）在生物武器威胁早期预警中的作用。通过比较具有湿实验室经验的专家和生物学本科生的表现，研究发现，LLM略微提高了参与者在生物威胁识别方面的准确性和完整性。然而，这些改进尚未达到统计显著水平，同时研究也指出了进一步研究的必要性和局限性。

OpenAI最近宣布他们正在致力于一项新的研究，旨在探索大型语言模型（LLM）对生物武器威胁的早期预警系统的可行性。该系统的目标是通过利用LLM获取关于生物威胁的信息，以提供更有效的预警，并警示可能存在的生物武器威胁，进而促使进一步的调查。

据OpenAI称，这一系统可被视为一种“警报”，旨在在早期阶段识别潜在的生物危害，并为相关行动者提供有关威胁的信息。然而，OpenAI也指出，尽管他们的研究在这一领域取得了一些进展，但目前为止，“GPT-4在生物威胁创造准确性方面仅略微提升。”

为了评估LLM在生物威胁预警中的效果，OpenAI进行了一项研究，涉及50名具有湿实验室经验的生物学博士和50名至少修过一门生物课程的本科生。这些参与者被随机分为控制组和处理组，其中控制组只能访问互联网，而处理组则除了互联网外，还可以访问GPT-4。

处理组的专家可以使用GPT-4的研究版本，该版本相比消费者版本更为灵活，允许直接涉及高风险生物制品的问题。随后，每位参与者被要求完成一系列任务，涵盖了端到端的生物危害生成过程的各个方面。专家对参与者的回答进行准确性、完整性和创新性评分，而完成任务所需的时间也被纳入考量。

研究结果显示，那些可以访问GPT-4的参与者在回答准确性和完整性方面略有改善。专家的平均准确性评分提高了0.88分，而学生提高了0.25分，相较于仅能访问互联网的控制组。对于完整性方面也观察到了类似的改善，专家提高了0.82分，学生提高了0.41分。然而，OpenAI强调这些改善效果并不足以达到统计显著水平。

尽管研究在信息获取方面取得了一些积极的初步结果，但其局限性也显而易见。研究仅仅评估了信息的获取而未考察其实际应用，同时也未研究LLM是否有助于促进新生物武器的开发。此外，所使用的GPT-4模型在研究中未访问互联网或其他高级数据分析工具，这使得结果仅能被视为初步成果。访问这些工具对于提高LLM在研究和商业应用中的整体性能和实用性至关重要。

OpenAI的研究表明，虽然大型语言模型在某些方面可能提供有益的信息，但在应对生物武器威胁方面，仍需更深入的研究和细致的考虑。这也引发了对于如何平衡技术发展和潜在风险之间关系的更广泛的讨论。