@dichotomiker Dem entnehme ich, dass du der Meinung bist, durch Prompt-Engineering bestehe die Möglichkeit, den sogenannten KIs das Faktenerfinden ausgetrieben werden könnte.

Das lässt zwei Schlüsse zu:
1. Die Betreiber lassen es explizit und bewusst zu, dass ihre Systeme fantasieren. (Das wäre zumindest bedenklich.)
2. Es ist nicht möglich, sonst würde das ja bei der Konfiguration bereits umsetzbar sein.

1. Betreiber lassen sie fantasieren, betreiben aber auch Trainings um fatale Antworten zu vermeiden wenn es bspw. um Straftaten geht.
2. Es besteht offenbar am Meisten Bedarf an konkreten Antworten. Wenn du relativierende, unsichere Antworten willst, kannst du das verlangen.

Die Frage ist, ist Irren männlich? Gibt es unter Frauen keine Gerüchteküchen? Müssen wir mit KI Geschlechterklischees reproduzieren oder geht es auch mal ohne, jetzt wo der Golem geschlechtsneutral ist?

@dichotomiker Ich habe noch keine sogenannte "KI" gesehen, die einigermaßen verlässlich nützliche Antworten liefert, ohne dass man sehr viel Energie in das Prompt Engineering investiert oder triviale Fragen stellt.

Und selbst wenn man explizit verlangt, dass sie keine Fantasieantworten geben, besteht eine signifikante Gefahr, dass sie es doch tun.

Mansplaining ist evident ein vorwiegend männliches Problem.

Mansplaining kann per Definition nur ein männliches Problem sein. Also keines von KI.

Wenn du Fantasieantworten erwartest, solltest du LLMs nicht ernsthaft befragen. Explizit einen Funktionsumfang zu Verlangen, funktioniert bei LLMs nicht.

Das Umformulieren von Texten und das Wiedergeben von weit verbreiteten Stereotypen und Vorstellungen funktioniert gut. Perplexity.ai tut auch ganz gut, was Fakten angeht, weil sie nur Quellzitate von ausgewählten Suchergebnissen umformulieren.

@dichotomiker LLMs sind von Menschen trainiert, auf Basis von Texten, etc. von Menschen.
Es spiegelt also in gewisser Weise die Gesellschaft wieder. Entsprechend spiegelt es auch hier die Verhaltensweisen wieder.

Tatsächlich ist auch Perplexity ziemlich gut darin, im Zweifel einfach "Fakten" zu erfinden oder die Quellen einfach falsch zuzuordnen bzw. falsch zu interpretieren bzw. Kontextfehler zu machen.