随着 ChatGPT、Midjourney 的流行,越来越多的企业和个人开始使用 AIGC 来生成内容,并且尝试利用大语言模型来开发应用(相关的开源项目有 hwchase17/langchain 和 microsoft/JARVIS)。
ChatGPT 等大语言模型实际上经常会生成一些准确度不是很高的内容(被有些人称作“幻觉”),这也是它们的局限性之一。
人工验证 AIGC 内容的真实性是一件很费时并且成本很高的事情,一定程度上也违背了使用 AI 工具的初衷。
我们可以使用一些其他工具来验证 AIGC 的内容,例如对于 AI 生成的代码,可以使用对应语言的静态分析工具(pylint、eslint 等);对于 AI 生成的图片,可以使用图像识别工具(Google Vision API、Azure Computer Vision等)。
当然,我们可以使用 AI 工具本身来验证 AIGC 内容。
使用 ChatGPT 生成 SQL
在上图的实验中,我让 Chatgpt 扮演一个 SQL 生成器,在每次提问之后,让它生成对应的 SQL 语句。
使用 ChatGPT 验证 SQL
在另外一个 playgroud 中,我让 chatgpt 扮演一个 SQL 验证器,让它验证第一个实验中的 SQL 语句是否正确。
总结
上面的实验总体上来说还比较初步,不过我们完全可以使用 AI 工具来验证 AIGC 的内容。某种程度上,这也算一种GAN的应用。