Der Patient berichtete den Ärzten, dass er nach Möglichkeiten gesucht habe, seine Salzaufnahme (Natriumchlorid) zu reduzieren. Er hatte über die schädlichen Auswirkungen von Salz gelesen und Tipps zur Reduzierung des Natriumkonsums gefunden, konnte jedoch keine Veröffentlichungen zur Reduzierung der Chloridaufnahme finden.
Basierend auf seinem Studium der Diätetik beschloss der Mann, ein eigenes Experiment durchzuführen, um Chloride aus seiner Ernährung zu streichen. Um Rat bat er einen KI-Chatbot. Laut Aussage des Patienten schlug der Chatbot vor, Natriumchlorid durch Natriumbromid zu ersetzen – ohne ihn vor den möglichen Gesundheitsrisiken eines solchen Ersatzes zu warnen.
Die Forscher konnten zwar nicht auf den Chatverlauf des Patienten zugreifen, doch aufgrund des Zeitpunkts seiner Vergiftungssymptome hatte er entweder ChatGPT 3.5 oder ChatGPT 4.0 verwendet. In ihren eigenen Tests erhielten die Ärzte bei der Verwendung von ChatGPT 3.5 – vermutlich der Version, die der Patient konsultiert hatte – die gleiche Natriumbromid-Empfehlung.
Nachdem der Mann drei Monate lang Natriumbromid anstelle von Kochsalz eingenommen hatte, entwickelte er Bromismus – ein Syndrom, das durch chronische Überbelastung mit Bromid oder Brom verursacht wird. Diese seltene Erkrankung tritt auf, wenn sich das Gift im Körper ansammelt und möglicherweise neuropsychiatrische Symptome auslöst.
Der Patient ging in die Notaufnahme, weil er befürchtete, sein Nachbar habe ihn vergiftet – Paranoia ist ein Anzeichen für Bromismus. Weitere Symptome waren Halluzinationen, Schlaflosigkeit, Akne, Koordinationsstörungen und extremer Durst. Tests zeigten erhöhte Bromidwerte in seinem Blut. Nach einem Fluchtversuch aus dem Krankenhaus wurde er in die psychiatrische Behandlung verlegt.
Nachdem sich sein Geisteszustand durch die antipsychotische Behandlung verbessert hatte, konnte er den Ärzten von den Ratschlägen erzählen, die er von ChatGPT erhalten hatte.
Bei längerer Exposition reichert sich Bromid im Körper an und stört die Neuronenfunktion. Im 19. und 20. Jahrhundert wurde Bromid in verschreibungspflichtigen und rezeptfreien Medikamenten verwendet, darunter Beruhigungsmittel und Schlafmittel. In den 1970er und 1980er Jahren entfernten die Behörden Bromide jedoch aus rezeptfreien Medikamenten, nachdem sie deren toxische Wirkung entdeckt hatten.
Vertreter von OpenAI räumten in ihrem Kommentar zu dem Fall die Einschränkungen des Dienstes ein. In den Nutzungsbedingungen von ChatGPT heißt es, dass der Dienst nicht zur Diagnose oder Behandlung von Krankheiten gedacht sei und Nutzer sich nicht auf die Antworten des Dienstes als einzige medizinische Informationsquelle oder als Ersatz für professionellen Rat verlassen sollten.
