Neues Preprint zur Evidenzlage von Künstlicher Intelligenz (KI) in der psychischen Gesundheitsversorgung veröffentlicht

Als Teil einer internationalen Forschungsgruppe haben Jana Volkert und Felix Groß eine Übersichtsarbeit veröffentlicht, die untersucht, ob die aktuelle Forschung belastbare Aussagen zu Wirksamkeit und Sicherheit von KI-Anwendungen wie (wie z.B. ChatGPT) im Bereich der psychischen Gesundheit erlaubt.

Die Ergebnisse zeichnen ein gemischtes Bild: Obwohl jeden Monat viele neue Modelle erscheinen, werden diese bislang nur selten anhand einheitlicher Standards untersucht. Systematische Sicherheitsprüfungen - etwa zur Risikoerkennung, Abhängigkeit, Symptomverschlechterung oder potenziell schädlichen Inhalten - sind ebenfalls selten. Gleichzeitig berichten einige Studien über mögliche Symptomverbesserungen durch KI-basierte Interventionen.

Die Autor:innen schlagen einen Fahrplan für zukünftige Forschung vor. Dazu gehören u.a. standardisierte und klinisch relevante Benchmarks für neue Modelle, um Ergebnisse besser vergleichen zu können. Ziel ist es, eine belastbare Grundlage für klinische, wissenschaftliche und gesundheitspolitische Entscheidungen im Bereich generativer KI zu schaffen.

Das Preprint ist hier verfügbar: https://osf.io/preprints/psyarxiv/n7qep_v2