近日（rì），甘（gān）肃省平（píng）凉市公安局网安大队侦破一（yī）起利（lì）用AI人工智能（néng）技术炮制虚假不实信息的（de）案件。

说起来，这已不是ChatGPT第一次陷入假新（xīn）闻风波了。

问世伊始，便（biàn）有人见（jiàn）识到其“一本正经（jīng）胡（hú）说八道（dào）”的高超本领。让解（jiě）释高深物理理论，说得有鼻子有眼（yǎn），结（jié）果所附（fù）论文一查均无出处；让推荐相关领域学者，瞬间就（jiù）有人选，可人物履历却是七拼（pīn）八凑。

出于其“天赋”的（de）内容（róng）生成能力，ChatGPT似（sì）乎比从前的人工（gōng）智能都更“聪（cōng）明”，编出的内容往（wǎng）往形真实（shí）假、杂糅（róu）难辨。

用ChatGPT编假新（xīn）闻

警方出手

4月25日，平凉市公（gōng）安局崆峒分局网安大队对“今晨甘（gān）肃一火车撞上修路工（gōng）人致9人死亡”的文章（zhāng），初步（bù）判断为信息虚假不实。

网（wǎng）安民警随（suí）即开展工作，发现共计21个账号均（jun1）在同（tóng）一时间（jiān）段（duàn）发布（bù）该文章，文章内容地点（diǎn）除平凉市崆峒区外还涉及兰州（zhōu）、陇（lǒng）南、定西、庆阳等地（dì），文章点击量已达1.5万余次。

经查，涉（shè）案账号均为广东深圳某自媒体公司所（suǒ）有，公司法人（rén）代表（biǎo）洪某弟（dì）有重大作（zuò）案嫌疑。

5月5日，专案民警在广（guǎng）东东莞嫌疑人住处对其使用的电（diàn）脑（nǎo）进行取证。

经审讯，犯罪嫌疑人洪某弟，在全网搜索（suǒ）近几年（nián）社会（huì）热点新闻，为规避平台查重（chóng）功（gōng）能，洪某弟通过近期火爆的ChatGPT人工智能软件将搜（sōu）集到的新闻（wén）要素修改编辑后，上传至其多个（gè）账（zhàng）号进（jìn）行非法获利。

洪某弟利用现代科（kē）技手段编造虚假信息，并散布在（zài）互联（lián）网上（shàng），被大量传（chuán）播（bō）浏览，其行为已涉嫌寻衅滋事罪。

目前（qián），崆峒（dòng）公（gōng）安（ān）分（fèn）局（jú）对犯罪（zuì）嫌（xián）疑人洪某弟（dì）采取刑事强制措（cuò）施，案（àn）件（jiàn）正在进一步侦办之中。

这（zhè）条假新闻也出自ChatGPT

此前，一条关于（yú）杭州3月（yuè）1日（rì）取消限行的“新（xīn）闻稿”，引发广泛传播。但经记者（zhě）调查发现，这是一条（tiáo）不实新闻。

据了解，2023年2月16日下午，杭州某小（xiǎo）区业主（zhǔ）群在讨论ChatGPT。一位业主就（jiù）开玩（wán）笑说尝试用它写篇（piān）杭州取消限行（háng）的（de）新闻稿看看。

随后该业主在群（qún）里直播了（le）ChatGPT写作过程（chéng），还把文（wén）章发群里。有不明所（suǒ）以的业主（zhǔ）误（wù）将其当真并截图转发（fā），最（zuì）后导致错误信息被传（chuán）播。

据（jù）了解，杭（háng）州相关政（zhèng）府部门（mén）均没（méi）有发布此类政策，警方已介入调查（chá），涉（shè）事业（yè）主也（yě）在（zài）群里公开道歉。

ChatGPT的潜在（zài）风险（xiǎn）

大型预训（xùn）练（liàn）人工智能语言模型ChatGPT在（zài）全球爆火。

此前，一家媒体与ChatGPT展开（kāi）的（de）“对话”中，就提到（dào）了“你（nǐ）会取代记者吗”这一问。对此，ChatGPT回复如下（xià）——

华中（zhōng）科技大学（xué）法学院副教授滕锐（ruì）表示：

ChatGPT是（shì）大量不同的（de）数据集群训练出（chū）来（lái）的语言模型，目前（qián）其背（bèi）后（hòu）仍是“黑盒”结构，即无（wú）法确切对（duì）其内在的算（suàn）法逻辑进行分解，所以不（bú）能（néng）确保在使用ChatGPT的过程中，其（qí）所输出的内容不会产生攻击伤害用（yòng）户的表述。

“如果ChatGPT的回复是错误或虚假信息，会具有极（jí）大的误导性，有潜在法律风（fēng）险。”在他看来，ChatGPT难免存（cún）在一些侵犯用（yòng）户隐私的内容。此外，若回复中存在过度借鉴他人作品的情况（kuàng），使用不当就有（yǒu）可能侵犯他人的著作（zuò）权（quán）。

值得注意的（de）是，目（mù）前，为了避免学（xué）生过（guò）于依赖人工智（zhì）能类（lèi）工具，防止（zhǐ）作弊，多国（guó）学（xué）校已经发（fā）出禁（jìn）令，禁止学生在学校内使用类似于ChatGPT的人工智能工具完成学习任务和（hé）考试（shì）。

面（miàn）对（duì）科（kē）技，多一些（xiē）理性与冷静

早有（yǒu）新（xīn）闻可信度评估机构提出，“ChatGPT可能成为互联网有史（shǐ）以来最强大（dà）的传播虚假信息（xī）的工（gōng）具。”也有一些实验表明，ChatGPT等（děng）个性化的实时（shí）聊天机器人在制造阴谋（móu）论方（fāng）面甚至（zhì）相比人类更具优势，它能够修（xiū）正糟糕的语法或错误的翻译，并（bìng）变换表达方式，使阴谋论显得更（gèng）具说服（fú）力和可信度。

一方面是超强的“造假能力（lì）”，而另（lìng）一方面却是相对缺失的“审（shěn）核门槛”——在（zài）算法逻辑中，事（shì）实核查能力（lì）天然缺失，来源不明的（de）所（suǒ）谓“新闻（wén）稿”随时（shí）可能成为舆论爆点，大众在将信将疑中“且传且围观”。

乱象频仍、真相缺失充分警示：面对这（zhè）样的超强（qiáng）生产（chǎn）能力，如（rú）若不加治理限制，任由（yóu）人工智能随性发（fā）展，必将（jiāng）严重威（wēi）胁我们（men）的信息生态（tài）。

科技是一把双刃剑，人工智能（néng）也是（shì）如此（cǐ）。我们当然（rán）不必视之为（wéi）洪水猛兽（shòu），关键是在积极拥抱新技术、新事（shì）物的同时（shí），注意规避潜在的问（wèn）题（tí）和风（fēng）险。

人工（gōng）智能浪潮（cháo）滚滚而（ér）来，相（xiàng）关法律与（yǔ）伦理框架不仅不能落（luò）后，反而更要尽量（liàng）赶在（zài）前面。

目前，世界各国皆在开展相关工作，以（yǐ）我国来说，今（jīn）年（nián）1月《互联网信息服务深（shēn）度合成管理规定（dìng）》颁（bān）布实施；4月，国（guó）家网信办（bàn）起草《生成（chéng）式（shì）人工智能服务管理（lǐ）办法（征求意（yì）见稿）》。相信随着法律法规的逐渐（jiàn）完（wán）善，相（xiàng）关权责会（huì）更加（jiā）明（míng）晰（xī），操作规（guī）范会更加具体。

与此同时，对待技（jì）术带来的新（xīn）问（wèn）题，也要多多寻求“技术解（jiě）”。比如（rú），对（duì）于人（rén）工智（zhì）能合成的文章进行识（shí）别、并打上（shàng）不可抹掉的标签。

ChatGPT在接受《时代》专访时曾回答：我还有很多局（jú）限，但（dàn）人类（lèi）应准备好应（yīng）对AI。确实，当为ChatGPT打开的新（xīn）世界而激动（dòng）万分时，我们（men）更应该有一丝理性的冷静。

构建人（rén）工智能应用的伦理和法律框架（jià），让（ràng）其与技术研发齐头并（bìng）进，规定好人工智能缔造（zào）者的义务，充分提醒用户保（bǎo）持警觉。“凡事预（yù）则立”，尽快（kuài）做好（hǎo）方方面面（miàn）的准（zhǔn）备工作（zuò），社（shè）会就（jiù）能更好应对“人工（gōng）智能生产内容新纪元”。