上個月 ChatGPT 的 4o 模型迎來了新的原生圖像生成器，該生成器在圖像內(nèi)生成文本方面表現(xiàn)出色。然而，這一技術進步卻引發(fā)了新的問題。人們已經(jīng)開始利用它來生成假餐廳收據(jù)，這可能為欺詐者又添了一把利器。
社交媒體用戶、風險投資家德迪 達斯在 X 平臺上發(fā)布了一張他聲稱是用 4o 生成的舊金山一家真實牛排餐廳的假收據(jù)照片。隨后，其他人也成功復制出了類似的結果，甚至有人添加了食物或飲料污漬，讓收據(jù)看起來更加逼真。IT之家注意到，最逼真的例子之一來自法國，一名領英用戶發(fā)布了一張當?shù)夭惋嬤B鎖店的皺巴巴的 AI 生成收據(jù)。
TechCrunch 也對 4o 進行了測試，并成功生成了一張舊金山蘋果蜂餐廳的假收據(jù)。不過，他們的嘗試存在一些明顯的破綻，比如總金額使用了逗號而不是句號，而且數(shù)字加起來也不對，但欺詐者很容易通過照片編輯軟件或更精確的提示詞來快速修改。
顯而易見，如此輕松地生成假收據(jù)為欺詐行為帶來了巨大的機會。很容易想象，這種技術可能會被不法分子用來為完全虛構的費用“報銷”。
OpenAI 發(fā)言人泰亞 克里斯琴森稱，他們所有的圖像都包含表明是由 ChatGPT 生成的元數(shù)據(jù)。克里斯琴森還表示，當用戶違反使用政策時，OpenAI 會采取行動，并且他們一直在從實際使用和反饋中學習。
當被問及 ChatGPT 為何允許人們生成假收據(jù)，以及這是否符合 OpenAI 禁止欺詐的使用政策時，克里斯琴森回應稱，OpenAI 的“目標是盡可能給予用戶最大的創(chuàng)作自由”，并且假 AI 收據(jù)也可以用于非欺詐場景，比如“教導人們金融知識”，以及創(chuàng)作原創(chuàng)藝術作品和產(chǎn)品廣告。 
