[karoshi]

Hallo Leute,

wahrscheinlich ist Euch auch schon aufgefallen, dass hier (wie wohl in den meisten anderen Foren auch) zunehmend Beiträge von neuen Benutzern auftauchen, die offensichtlich KI-generiert sind. Am Ende des Tages geht es natürlich darum, Spam-Links zu platzieren, und zwar meistens nicht gleich beim ersten Posting, sondern durch die nachträgliche Bearbeitung oder Beantwortung dieser Posts. Leider werden diese Bots immer besser, aber bis jetzt kann man oft noch relativ einfach erkennen, wenn die KI am Start ist.

Typische Symptome sind:

• Eine neue Antwort wird in ein uraltes Thema hinein gepostet, wobei (uns als Menschen) klar ist, dass die ursprüngliche Frage längst beantwortet oder irrelevant geworden ist.
• Wer schon öfter mit ChatGPT zu tun hatte, kennt diesen etwas zu perfekten und gleichzeitig gewollt lockeren Schreibstil, meistens mit positiven Verstärkungen, die im deutschsprachigen Kulturkreis leicht unangebracht wirken.
• Wenn in einem Ursprungsbeitrag mehrere Unterfragen auftauchen, ist es bei menschlichen Antworten sehr unwahrscheinlich, dass auf alle eingegangen wird. Die meisten Leute hier haben gar nicht die Zeit, sie beantworten oft nur eine oder zwei Fragen.

Und dann gibt es noch ein paar Kriterien, die man nur als Moderator sehen kann:

• Email-Adressen bei Gmail, die typischerweise die Form <benutzername><zufällige Buchstabenfolge><3 Ziffern>@gmail.com haben
• Wenn es von der Registrierung bis zum Posten einer längeren Antwort keine 2 Minuten gedauert hat, dann hat diese Antwort wahrscheinlich kein Mensch geschrieben.
• Solche Benutzer posten oft von ausländischen IP-Adressbereichen, während sie gleichzeitig in fehlerfreiem Deutsch schreiben. Muss nicht zwingend ein Problem sein, ist aber ein weiteres Indiz.

Stellt sich die Frage, wie wir hier damit umgehen sollen. Ich denke, wir versuchen es erst mal mit zwei Maßnahmen:

• Ich habe für neue Benutzer die Beitragsmoderation aktiviert, d. h. sie können nicht mehr ungefiltert drauf los schreiben, sondern ihre Texte landen in der Moderations-Warteschlange. Die Maßnahme sollte keine Auswirkungen auf Benutzer höherer Stufen haben. (Und in höhere Stufen kommt man hier schon nach einigen wenigen Beiträgen.) Falls Doch, bitte melden, notfalls an die Kontaktadresse im Impressum.
• Achtet bitte verstärkt auf solche KI-generierten Inhalte und meldet sie lieber einmal zu oft als einmal zu wenig. Ich kann mir dann auch die versteckten Kriterien aus der zweiten Gruppe noch mal vornehmen und hoffentlich eine fundierte Entscheidung treffen, wie mit dem Benutzer weiter vorzugehen ist. Bei offensichtlichen Bots halte ich mich aber nicht mit Ermahnungen auf, die werden sofort gelöscht.

Ich hoffe, dass wir das Forum so noch möglichst lange vor der Spam-Flut schützen können. Es ist ein ewiger Kampf: sie lernen, wir lernen.

[redfred89]

Hallo Karoshi,

ich finde es großartig, dass du dieses Thema hier in diesem Forum postest! Das zeigt mal wieder deinen Willen, echten Mehrwert für dieses Forum zu generieren und Menschen bei ihrer Vorbereitung auf eine Weltreise zu unterstützen. Lass uns deine Unterpunkte einmal Schritt für Schritt abarbeiten und genauer untersuchen.


Antworten in uralte Themen

Es kann gut vorkommen, dass die KI durch ihren Algorhitmus alte Forum-Themen aufgreift und auf diese antwortet. Sehr gut erkannt und auf diesen Punkt hingewiesen.


Pefekte Antworten mit freundlichen Floskeln

KI-generierte Antworten bedienen sich oft eines etwas zu ungewöhnlichen Sprachgebrauchs, um freundlich, kreativ, klug und hilfreich zu klingen. Das kann zum einen einschmeichelnd, zum anderen allerdings auch übertrieben wirken und dein Hinweis auf diese Eigenschaft entlarft KI-generierte Antworten im Handumdrehen.


Alle Fragen werden gezielt gleichzeitig beantwortet

Du hast absolut recht - Nur KI-generierte Antworten beantworten komplexe Fragen lückenlos und entlarfen somit jeden künstlich erschaffenen Post. Antworten aus menschlicher Hand sind dort klar unterlegen.


Zeitlich unrealistische Abläufe von Registrierung bis zum eigentlichen Post

Da ist ganz klar deine Expertise als Admin gefragt. Nur du und etwaige andere Admins haben tiefgreifenden Zugriff auf diese Informationen und entlarfen jeglichen Benutzer, der KI-generiert ist.


Fehlerfreie Antworten

Auch die Qualität der Antworten lässt eindeutig auf KI-generierte Inhalte schließen. Nur Antworten einer künstlichen Intelligenz sind scharfsinnig und in fehlerfreiem Deutsch, was jedem menschlichen Benutzer nicht zuzutrauen ist.


Abstellmaßnahmen und weiteres Vorgehen

Deine Sofortmaßnahmen sind konsequent und zugleich schlüssig. Nur glaubwürdie Nutzer mit einer eindeutigen Historie dürfen sofort drauflos antworten. Auch die Kontrolle von neuen Posts durch alte Benutzer und die Meldefunktion sollte alle Antworten von KI sofort entlarfen.


Wenn du möchtest, können wir noch weiter auf den Umgang mit KI in Menschenforen eingehen und die Problematik dahinter genauer untersuchen.

 

[karoshi]

Großartig! Aber auch wenn der Beitrag den Schreibstil von ChatGPT perfekt trifft, ist er mit Sicherheit nicht KI-generiert. Kannst Du Dir denken, welches Detail nicht passt? (Und nein, ich meine nicht Deine bisherige Beitragshistorie.)

LG Karoshi

[redfred89]

Ich schätze du meinst, dass Chat GPT seine Überlegenheit nicht so offensichtlich beschreiben würde 

[karoshi]

Nein, ChatGPT beschreibt seine Überlegenheit genau so.
Ich meine die beiden Typos.

[redfred89]

Ich meine die beiden Typos.

...zwei geht ja noch! Ich wollte jetzt nicht so dreist sein und Chat GPT korrekturlesen lassen 

[karoshi]

Oder man sagt ChatGPT: schreibe, wie ein Mensch schreiben würde, inklusive ein paar typischen Fehlern.
Alles eine Frage des Prompts. Das werden wir sicher noch sehen...