Der 128. Deutsche Ärztetag hat sich mit großer Mehrheit für einen verantwortungsvollen Einsatz von KI-Systemen in der Medizin ausgesprochen und fordert einen verbindlichen Rechtsrahmen.
Der Einsatz von Künstlicher Intelligenz (KI) im Gesundheitswesen steht im Fokus der aktuellen Diskussionen unter Ärzten. Dabei betonen die Mediziner, dass die Nutzung von KI stets den Vorgaben der EU-KI-Verordnung und der KI-Konvention des Europarates entsprechen muss, um Menschenrechte sowie demokratische und rechtsstaatliche Prinzipien zu wahren.
Mit einer klaren Forderung nach qualitätsgesicherten Daten und transparenter Nachvollziehbarkeit der Entscheidungsparameter setzen die Ärzte ein starkes Zeichen. Besonders wichtig ist ihnen, dass KI-Systeme nicht zu einer „Blackbox“ werden und somit nachvollziehbar bleibt, welche Entscheidungsparameter ein Algorithmus verwendet. Ein Verlust ärztlicher Kompetenzen und Erfahrungswissen durch den Einsatz von KI darf keinesfalls eintreten. Diese Sorge wurde bereits bei einer früheren Veranstaltung der Bundesärztekammer thematisiert, bei der vor einem Automatisierungs-Bias gewarnt wurde. Ein weiteres zentrales Anliegen der Ärzte ist die Vermeidung einer Zwei-Klassen-Medizin. KI soll Ärzte unterstützen und nicht ersetzen. Es muss sichergestellt werden, dass KI-Systeme ausschließlich den Interessen und dem Wohl der Menschheit dienen und dass Systeme, die nicht den Werten Deutschlands und Europas entsprechen, nicht zum Einsatz kommen. Verstöße gegen diese Grundsätze sollen sanktioniert werden. Zusätzlich fordern die Ärzte im Rahmen der Digitalisierung des Gesundheitswesens eine stabile Infrastruktur, funktionierende Praxisverwaltungssysteme sowie eine sinnvolle und sichere Digitalisierung.