OpenAI, das KI-Forschungsunternehmen hinter ChatGPT, hat ein neues Tool – AI Text Classifier – veröffentlicht, um dabei zu helfen, KI-generierten Text von menschengeneriertem Text zu unterscheiden. Das Tool soll dazu beitragen, falsche Behauptungen über Menschen zu reduzieren, die von künstlicher Intelligenz (KI) generierte Inhalte schreiben. Laut der [Ankündigung] von OpenAI (https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/){rel="nofollow"} kann es die Fähigkeit zur automatischen Ausführung einschränken Fehlerinformationskampagnen, die Verwendung von KI-Tools zur Begehung von akademischem Betrug und die Verwendung von Chatbots, um sich als Menschen auszugeben. Während es KI-geschriebenen Text nicht mit 100-prozentiger Genauigkeit erkennen konnte, hat das Tool beim Testen an einer Reihe englischsprachiger Texte in 26 Prozent der Fälle richtig beurteilt, ob der Text von einer KI geschrieben wurde. Es wurde jedoch auch fälschlicherweise angenommen, dass von Menschen geschriebener Text in 9 % der Fälle von KI geschrieben wurde. OpenAI gibt zu, dass seine Tools mit längerem Text besser funktionieren, daher sind mindestens 1.000 Zeichen erforderlich, um die Tests durchzuführen.
Der neue KI-Textklassifizierer von OpenAI ist ein leistungsstarkes Tool, das jedoch einige Einschränkungen aufweist. Beispielsweise kann es KI-generierten Text sowie von Menschen geschriebenen Text falsch kennzeichnen, und winzige Änderungen können dazu beitragen, dass KI-generierter Text Klassifikatoren entgeht. Außerdem wurde es hauptsächlich für englischsprachige Inhalte trainiert, die von Erwachsenen geschrieben wurden, und ist möglicherweise nicht so zuverlässig für Texte, die von Kindern oder nicht-englischen Sprachen geschrieben wurden.
Um den OpenAI AI Text Classifier selbst zu testen, gehen Sie zu platform.openai.com/ai-text-classifier, fügen Sie den zu bewertenden Text ein und klicken Sie auf Senden. Das Tool bewertet, wie wahrscheinlich es ist, dass der Text von KI generiert wurde, auf einer Skala von sehr unwahrscheinlich bis wahrscheinlich oder möglicherweise unklar – alles in Sekunden! Um diesen Punkt zu veranschaulichen, habe ich die Fähigkeit von ChatGPT getestet, einen Artikel über SEO zu erstellen und ihn wörtlich an einen Klassifikator zu senden; es dachte, der Artikel könnte von KI generiert worden sein. OpenAI hat ein Tool namens AI Text Classifier entwickelt, das darauf abzielt, zwischen von Menschen geschriebenem Text und KI-generiertem Text zu unterscheiden. Die Ergebnisse vom Januar 2023 (https://platform.openai.com/ai-text-classifier){rel="nofollow"} veranschaulichen die Einschränkungen des Tools, da nicht mit hoher Sicherheit gesagt werden kann, dass ChatGPT diesen Text generiert hat wird von künstlicher Intelligenz geschrieben. Durch die Anwendung der von Grammarly vorgeschlagenen geringfügigen Änderung habe ich die Bewertung jedoch von Vielleicht auf Unklar gesenkt. OpenAI weist zu Recht darauf hin, dass es leicht ist, den Klassifikator zu umgehen, aber es ist nicht der einzige Beweis, der bestimmt, ob ein Dokument von KI generiert wurde (https://platform.openai.com/faq#what_is_the_intended_use_of_the_tool){rel=“nofollow“ }. OpenAI fügte hinzu, dass das Tool nicht gründlich getestet wurde, um Inhalte zu erkennen, die eine Kombination aus KI und menschlichem Text enthalten, weshalb sie empfehlen, sich auf andere Quellen zu verlassen, um festzustellen, ob ein Dokument von KI oder Menschen geschrieben wurde.
KI-Textklassifikatoren sind leistungsstarke Tools zum Identifizieren potenzieller KI-generierter Texte. Es ist jedoch wichtig zu beachten, dass Klassifikatoren nicht als entscheidendes Maß für die Entscheidungsfindung verwendet werden sollten. Stattdessen kann es nützliche Erkenntnisse darüber liefern, wie viel Text ein KI-Programm möglicherweise produziert hat.