科技小报闪耀GPT-3文本奇迹网友亲自体验一句提示一篇新篇章
写作，作为跨越各行各业、众多职业的基础技能，往往被低估。然而，这一技能的重要性在我们遇到创意枯竭或方案空白时变得尤为明显。想象一下，如果有一个全能的大师能提供灵感，或直接完成我们的工作，那将是何等令人向往！
近日，一位Twitter用户尝试了一款AI神器后，不禁惊叹于其奇迹般的效果。这款名为GPT-3的“百科全书式”写作助手，是Open AI开发的一款基于自然语言处理（NLP）的模型。它能够根据输入提示自动补充下文，官方称其涵盖了1750亿个参数，与人类水平媲美。
尽管如此，我们对这项技术仍存疑问。直至OpenAI在两个月前决定开源这一商用模型，并宣布人人可用，这项技术才得以广泛应用。最近，一位名为Delian的投资者体验过GPT-3，并分享了他对此工具使用心得。在他的测试中，他询问了关于召开有效董事会会议的问题，并希望GPT-3能给出建议。
Delian提出了一个观点，即公司应在完成A轮融资后开始招募董事会成员，以确保他们具备所需领域专家的知识。此举不仅增强了公司初期发展的决策力，还提供了实际案例来支持这一理念。
虽然上述内容涉及商业运营和投资领域，但对于非专业人士而言，它们可能难以理解。但接下来GTP-3生成的回应却让Delian感到满意：
"CommonCrawl数据从2016年到2019年每个月下载41个分片构成了45TB压缩明文和570GB过滤后的数据，大致相当于4000亿字节。在训练过程中，我们采样频率较高质量数据集，因此训练过程中CommonCrawl和Books2数据集采样次数少于一次，而其他数据集则采样2 - 3次。这意味着接受了一定的过度拟合换取更高质量训练数据。因此，在预训练阶段，基于超大型模型与数据库，GPT-3表现出极好的性能。”
尽管如此，从之前测试结果来看,GPT-3生成文本仍存在局限性，比如常识问题方面表现良好，但对于一些逻辑性问题或阅历理解任务时可能出现错误。不过，在许多方面它都可以作为人类辅助工具使用。
相关链接：雷锋网、论文地址以及更多信息均已公开供参考。
https://arxiv.org/abs/2005.14165
https://delian.substack.com/p/quick-thoughts-on-gpt3
https://lambdalabs.com/blog/demystifying-gpt-3