Wenn die Maschine mitdenkt

Dr. Anna Bergmann sitzt vor ihrem Bildschirm und betrachtet die Röntgenaufnahme einer Lunge. Neben dem Bild blinkt ein kleines Symbol: Die KI hat eine Auffälligkeit erkannt. „Ohne das System hätte ich diesen winzigen Schatten vielleicht übersehen", sagt die Radiologin. „Aber die endgültige Diagnose stelle ich immer noch selbst." Bergmann arbeitet seit drei Jahren mit dem KI-Assistenten und hat sich an dessen stille Präsenz gewöhnt. Das System wurde mit über zwei Millionen Röntgenbildern trainiert und erkennt bestimmte Muster schneller als jedes menschliche Auge. Trotzdem betont sie, dass die Maschine nur ein Werkzeug ist: „Sie kann keine Anamnese machen, keinen Patienten beruhigen, keinen Kontext verstehen. Die Verantwortung bleibt bei mir." An ihrer Klinik in München nutzen inzwischen alle Abteilungen KI-gestützte Diagnostik – mit messbarem Erfolg: Die Fehlerquote bei Erstbefunden ist um 23 Prozent gesunken.

Anna Bergmann 医生坐在屏幕前，查看一张肺部 X 光片。图片旁边闪烁着一个小图标：AI 发现了一处异常。「没有这个系统，我可能会忽略这个微小的阴影，」这位放射科医生说，「但最终诊断仍然由我自己做出。」Bergmann 已经与这个 AI 助手合作了三年，习惯了它安静的存在。该系统用超过两百万张 X 光片训练而成，识别某些模式的速度超过任何人眼。尽管如此，她强调机器只是一个工具：「它不能做病史采集，不能安抚患者，不能理解上下文。责任在我这里。」在她位于慕尼黑的医院，所有科室现在都使用 AI 辅助诊断——成效可量化：初次诊断的错误率下降了 23%。

💡 hätte … übersehen 虚拟式，以及 immer noch 强调人类仍掌握最终决定权。

In einer Hamburger Grundschule korrigiert derweil ein Algorithmus Aufsätze von Viertklässlern. Die Software markiert Grammatikfehler, schlägt Formulierungen vor und bewertet den Textaufbau. Lehrerin Petra Hoffmann sieht das zwiespältig: „Es spart mir Zeit, keine Frage. Aber kann eine Maschine wirklich beurteilen, ob ein Kind kreativ geschrieben hat?" Hoffmann hat beobachtet, dass die Software bei ungewöhnlichen Satzstrukturen oft Fehler markiert, die gar keine sind – weil das Kind etwas Originelles versucht hat. „Kreativität passt nicht in einen Algorithmus", sagt sie. Gleichzeitig sieht sie den Nutzen bei der reinen Fehlerkorrektur, besonders in Klassen mit über 30 Schülerinnen und Schülern, wo individuelle Rückmeldung kaum noch möglich ist. Die Schule testet das System seit einem halben Jahr im Rahmen eines Pilotprojekts des Hamburger Senats, und die Ergebnisse sind gemischt.

与此同时，在汉堡一所小学里，一个算法正在批改四年级学生的作文。软件标记语法错误，建议表达方式，并评估文章结构。教师 Petra Hoffmann 对此态度矛盾：「毫无疑问，它节省了我的时间。但一台机器真的能判断一个孩子写得有没有创意吗？」Hoffmann 观察到，软件在遇到不寻常的句式结构时，经常标记根本不是错误的地方——因为孩子尝试了一些有创意的表达。「创造力无法被算法化，」她说。与此同时，她也看到了在纯粹纠错方面的好处，特别是在超过 30 名学生的班级里，个别反馈几乎不可能。这所学校作为汉堡市参议院试点项目的一部分，已经测试该系统半年了，结果喜忧参半。

💡 zwiespältig（矛盾的）是描述复杂态度的好词，ob 引导间接疑问句。

Besonders heikel wird es auf dem Arbeitsmarkt. Große Konzerne setzen zunehmend auf KI-gestützte Bewerbungsverfahren: Algorithmen filtern Lebensläufe, analysieren Videointerviews und bewerten sogar die Stimmlage der Bewerber. Studien zeigen, dass solche Systeme bestehende Vorurteile nicht abbauen, sondern oft verstärken – etwa gegen Bewerber mit ausländisch klingenden Namen oder Frauen, die in ihrer Stimmlage von der männlichen Norm abweichen. Ein Forschungsteam der TU Berlin hat 2024 nachgewiesen, dass ein weit verbreitetes Screening-Tool Bewerber mit türkischem Hintergrund systematisch schlechter bewertete, obwohl deren Qualifikationen identisch waren. Der Ethikrat warnt vor einer schleichenden Entmündigung: Wenn Algorithmen entscheiden, wer einen Kredit bekommt, wer zum Vorstellungsgespräch eingeladen wird oder welche Therapie ein Patient erhält, dann verschiebt sich die Verantwortung – weg vom Menschen, hin zur Blackbox.

在就业市场上情况尤为棘手。大型企业越来越多地采用 AI 辅助的招聘流程：算法筛选简历、分析视频面试，甚至评估应聘者的声调。研究表明，这类系统不但没有消除现有偏见，反而往往加深了偏见——比如对有外国名字的应聘者，或声调偏离男性标准的女性。柏林工业大学的一个研究团队在 2024 年证明，一款广泛使用的筛选工具系统性地给土耳其背景的应聘者打了更低的分，尽管他们的资质完全相同。伦理委员会警告一种悄然发生的「去主体化」：当算法决定谁能获得贷款、谁被邀请面试、患者接受何种治疗时，责任就从人转移到了黑箱。

💡 nicht … sondern 对比结构，heikel（棘手）为高频评论用词。