Die chinesischen Behörden haben in der nordchinesischen Provinz Gansu einen Mann verhaftet, der ChatGPT benutzt haben soll, um Fake News-Artikel zu schreiben.
Diese Verhaftung scheint eine der ersten unter Chinas neuen Anti-KI-Richtlinien zu sein, die unter anderem den Missbrauch von künstlicher Intelligenz zur Verbreitung von “Falschinformationen” verbieten.
Der Verdächtige, der nur mit seinem Nachnamen Hong identifiziert wurde, wird beschuldigt, den Chatbot von OpenAI verwendet zu haben, um Nachrichtenartikel über ein angebliches Zugunglück zu generieren, die laut einem Polizeibericht der South China Morning Post “falsche Informationen” enthielten. Nachdem die Behörden den Artikel am 25. April entdeckt hatten, stellten sie fest, dass mehrere Versionen der Geschichte mit unterschiedlichen Unfallorten gleichzeitig auf 20 anderen Accounts der von Baidu betriebenen Blogging-Plattform Baijiahao veröffentlicht worden waren. “Hong behauptete, er habe ChatGPT benutzt, um Artikel umzuschreiben und Geld durch den Internetverkehr zu verdienen.
Die Behörden in Gansu verfolgten die Artikel bis zu einem unabhängigen Unternehmen, das von Hong geleitet wird und mehrere blogartige Plattformen betreibt. In der Erklärung der örtlichen Polizei heißt es, Hong habe zugegeben, ChatGPT verwendet zu haben, um bestehende virale Nachrichtenartikel umzuschreiben und so Duplikatfilter zu umgehen. Er habe sie dann online gestellt, nachdem seine Freunde ihm gezeigt hätten, wie man mit Internetverkehr Geld verdienen könne. Die gefälschten Artikel wurden mehr als 15.000 Mal aufgerufen, bevor sie entfernt wurden. China ist eines der wenigen Länder, die den Zugang zu ChatGPT blockiert haben, aber die Einwohner können diese Beschränkungen mit Hilfe einer VPN-Verbindung umgehen.
Hong wurde speziell wegen “Unruhestiftung und Provokation” angeklagt, eine Auffangbestimmung, die laut der South China Morning Post auf Verdächtige angewendet werden kann, die online Falschinformationen erstellen und/oder verbreiten. Dies ist jedoch nicht die einzige Anwendung dieses Straftatbestands, der im weiteren Sinne auch als Untergrabung der öffentlichen Ordnung oder Störung der öffentlichen Ordnung definiert werden kann. Die Formulierung des Straftatbestands ist vage und wurde vielfach kritisiert, da sie zur Unterdrückung der Meinungsfreiheit und zur Verhaftung von Aktivisten, die die chinesische Regierung kritisieren, genutzt werden kann. Angeklagte können zu fünf bis zehn Jahren Gefängnis verurteilt werden.
