近日，一组真假难辨的图片在网络上引发广泛讨论，包括千禧年间小学生在小卖部买零食的场景、一张看似印刷完好的数学试卷，甚至马斯克在直播间卖瑜伽裤的画面。这些图片的共同点在于——它们全部由人工智能生成。
4月22日，美国人工智能公司OpenAI正式推出ChatGPT Images 2.0模型，这是其图像生成功能的重大升级。该模型生成的图片质量显著提升，细节更加逼真，甚至能完美呈现文字内容，几乎达到以假乱真的程度。相关话题迅速登上热搜，网友纷纷感叹“难以分辨”。
据了解，ChatGPT Images 2.0解决了以往AI生成图片中细节粗糙、文字乱码的问题。有网友测试用该模型生成全篇《出师表》，内容工整规范，几乎零错漏。然而，也有眼尖的网友发现，部分图片中仍存在少量文字差错。
随着模型发布，一些AI生成的假图开始在网络上传播。例如，一张“Tim Cook加入小米汽车”的“官宣图”引发广泛关注，粗看之下几乎无法察觉AI痕迹，随后小米官方发文辟谣。还有网友实测发现，只需简单输入一句话，就能一键生成精美的商业设计图，引发对设计师职业未来的担忧。
更令人担忧的是，GPT-Image-2存在严重的安全漏洞。有记者实测发现，将个人身份证上传到ChatGPT后，要求将身份证中的人脸换成库克，模型不仅改变了人脸，还替换了人名、出生年月日以及身份证号码中的相关信息。该模型生成的图片均未标注“AI生成”的水印或提示，进一步加大了核实和甄别的难度。
面对如此逼真的AI生成图片，许多网友表示“被吓到了”，甚至感叹“有图有真相的时代已经过去”。大家呼吁加快完善AI领域的法律法规，加强对海外AI工具的监管，并强调AI生成内容应强制标注，以避免误导公众。
