我是科技之光亲测GPT-3文本生成模型续写故事如梦
写作作为跨越各行各业、各种职业的基础技能，虽不复杂却常让人苦恼。深夜论文无头，合作方案难以启口，这些痛苦或许可以通过一个神奇的全能大师得到解答。近日，一位Twitter用户惊喜地发现，他所体验的AI工具竟然实现了他的愿望！这款名为“百科全书式”写作助手，是由Open AI开发的GPT-3自然语言处理模型。这是一款AI文本生成器，它能根据提示自动生成下文。据称GPT-3拥有1750亿参数，远超其他AI文本生成模型，并且其写作水平接近人类。
尽管如此，该模型如何在实际应用中表现，我们并未亲身经历。不过，由于产品团队对其信心满怀，他们将这款商用GPT-3模型开放源代码，使之成为人人可用的写作辅助工具。最近，一位名为Delian的创始人在使用后，感叹了它令人难以置信的效果。他希望GPT-3能够提供关于召开有效董事会会议的一些建议。在输入上述问题时，他注意到公司创始人初期打造高质量董事会成员对于公司发展至关重要，但许多创始人忽视这一点。他建议完成A轮融资后开始招募，并确保招募专家覆盖公司领域。
虽然上述内容涉及商业运营和投资领域，对非专业人员来说很难给出相应回答。但是，随后的GTP-3生成内容令他十分满意。以下是部分翻译内容：CommonCrawl数据从2016年到2019年每月下载41个分片，每个月约45TB压缩明文和570GB过滤后的数据，大致相当于4000亿字节。这使得训练过程中的采样偏向于高质量数据集，因此CommonCrawl和Books2数据集被采样次数较少，而其他数据集则被多次采样，以接受一定程度的过度拟合换取更高质量训练数据。
因此，在预训练阶段基于超大型模型与数据库组合起来时，GPT-3展现出了极佳性能。此外，从前面的测试中我们也看出，即便存在局限性，比如处理一些“不言而喻”的问题时可能出现错误，如Q：烤面包机和铅笔哪一个较重？A：铅笔比烤面包机重。这表明在回答常识性问题方面，它非常擅长。而对于逻辑性问题或阅历理解任务，它几乎达到人类水平，因此在很多方面可作为人类辅助工具。
相关链接包括雷锋网、论文地址，以及两篇详细介绍文章。如果你想了解更多关于这个革命性的技术，请点击查看相关信息。
