科技流学霸从大一拿诺奖开始GPT-3就能帮你续写故事亲测好用
写作不仅是每个行业的基石，更是职业发展的重要技能。虽然它被看作基础，但要掌握却并不简单。许多人在深夜里苦战于无笔触，合作方案也难以凸显。当时，有一个全能的大师指导或直接完成任务，这简直太完美了！最近，一位Twitter用户体验了AI神器GPT-3后，他的愿望竟然实现了！这款“百科全书式”写作助手基于Open AI开发的GPT-3自然语言处理模型，是一款能够根据提示自动补充下文的AI文本生成器。
据官方介绍，GPT-3拥有1750亿参数，比起其他AI文本生成模型更为先进，并且达到了目前最佳水平（SOTA），其写作能力与人类相当。但实际效果如何？我们还没有亲自尝试过。不过，可能出于对产品信心，Open AI将这款耗资1200万美元开发商用GPT-3模型开源，使得人人都可以作为自己的写作辅助工具使用。
最近，一位名为Delian的创业者在体验后，不禁在Twitter分享了令人震惊的成果。他希望GPT-3能提供关于“召开有效董事会会议”的建议，因此他向GPT-3输入了一段上文：公司创始人应早期构建高质量董事会成员团队，对初期发展至关重要。大多数创始人未意识到这一点。他建议公司在完成A轮融资后开始招募董事会成员，并确保这些成员来自不同领域，以便覆盖公司所处领域各个方面。此外，他还举例论证这个观点。
内容涉及商业运营和投资领域，对非专业人员来说很难给出相应回应。但接下来由GTP-3生成的下文让他非常满意。以下是翻译内容：
CommonCrawl数据从2016年到2019年，每月下载41个分片中的数据集，为训练前的45TB压缩明文和570GB过滤后的数据集。这大约相当于4000亿字节。在训练过程中，并非按大小随机采样，而是优先选择质量较高的数据集进行采样，因此，在训练过程中CommonCrawl和Books2数据集中采样的次数少于一次，而其他数据集则每次采样2至3次。这意味着接受了一定的过度拟合，以换取更高质量的训练数据。
因此，在预训练阶段，基于超大型模型和数据库结合的人工智能系统，如今能够表现出极佳性能。尽管存在一定局限性，但从前面的测试来看，我们可以看到它在常识问题上的表现尤为突出。而对于一些逻辑性问题或理解复杂情境时，它几乎达到人类水平，从而成为众多场景下的优秀辅助工具。
相关链接：
雷锋网
论文地址：
https://arxiv.org/abs/2005.14165
https://delian.substack.com/p/quick-thoughts-on-gpt3
https://lambdalabs.com/blog/demystifying-gpt-