Germany – Medical software package – Hilfestellung zu Konformitätsbewertung für KI-Innovationen (KI-Reallabore)

Das Bundesministerium für Gesundheit (BMG) plant die Errichtung von KI-Reallaboren im Ge-sundheitswesen in Form eines Maßnahmenbündels zur Beschleunigung des Transfers innovati-ver KI-Systeme in die Versorgung. Eines dieser Vorhaben soll Einrichtungen, die KI entwickeln („KI-Entwickelnde“), dabei unterstützen, regulatorische Anforderungen frühzeitig zu identifizieren, zu adressieren und entsprechend konforme Entwicklungsprozesse zu etablieren. Dieses Ziel soll maßgeblich dadurch erreicht werden, dass Referenzdokumentationen („blueprints“) für Teile der technischen Dokumentation, die im Rahmen einer Konformitätsbewertung erforderlich ist, erarbei-tet und veröffentlicht werden. Das BMG plant, KI-Entwickelnde, insbesondere kleine und mittlere Unternehmen (KMU), dabei zu unterstützen, solche „blueprints“ gemeinsam mit einschlägigen Expertinnen und Experten zu erarbeiten. Voraussetzung für eine Beteiligung ist, dass entstehende „blueprints“ vollständig veröffentlicht werden, um einen Mehrwert auch für nicht-beteiligte KI-Entwickelnde zu erreichen. Die im Rahmen des Vorhabens erarbeiteten „blueprints“ sollen in ihrer Gesamtheit unterschiedliche, für den Markt jeweils hochrelevante Herausforderungen adressie-ren, die derzeit das Inverkehrbringen von innovativen KI-Systemen für die Gesundheitsversor-gung erschweren. Die hier vorliegende Ausschreibung dient der Umsetzung von Pilotprojekten im Rahmen der ge-nannten Initiative. Im Fokus der Ausschreibung stehen KI-Anwendungen für das Gesundheitswe-sen im weiteren Sinne, inklusive (jedoch nicht beschränkt auf) Medizinprodukte. Zur Projektumsetzung sollen ausgewählte Teile der technischen Dokumentation für den Konformitätsbewertungsprozess einer solchen KI-Anwendung angefertigt und als Referenzdokumentation („Blue-print“) aufbereitet werden.

Lots Lot 1 — Verifizierung und Validierung: Ausschreibungsgegenstand ist die Bereitstellung ausgewählter Teile der im Rahmen des Konformitäts-bewertungsprozesses üblicherweise zu erbringenden Dokumentation im Sinne einer Referenzdokumen-tation. Gegenstand der Dokumentation ist dabei eine KI-Anwendung für das Gesundheitswesen, welche jedoch nicht notwendigerweise ein Medizinprodukt sein muss. Zusätzlich zur Referenzdokumentation sind weitere mit der Dokumentationserstellung im Zusammenhang stehende Leistungen zu erbringen (siehe Abschnitt 1.2). Bei KI-Anwendungen für das Gesundheitssystem im Sinne dieser Ausschreibung handelt es sich um Produkte bzw. Systeme, die im Sinne der KI-VO als KI-Systeme definiert sind bzw. ein solches System beinhalten. Ein (voraussichtlicher) Einsatz im Gesundheitswesen muss gegeben sein. Die vom Auftragnehmer bereitgestellte Referenzdokumentation sowie die Stellungnahme haben den Zweck, zukünftige Konformitätsbewertungsprozesse zu erleichtern und zu beschleunigen und werden entsprechend, zum Zwecke der Nachnutzung durch Dritte, vom BMG oder durch das BMG benannte Institutionen veröffentlicht. Die Details entnehmen Sie bitte den Vergabeunterlagen. Lot 2 — Datenschutz: Ausschreibungsgegenstand ist die Bereitstellung ausgewählter Teile der im Rahmen des Konformitäts-bewertungsprozesses üblicherweise zu erbringenden Dokumentation im Sinne einer Referenzdokumen-tation. Gegenstand der Dokumentation ist dabei eine KI-Anwendung für das Gesundheitswesen, welche jedoch nicht notwendigerweise ein Medizinprodukt sein muss. Zusätzlich zur Referenzdokumentation sind weitere mit der Dokumentationserstellung im Zusammenhang stehende Leistungen zu erbringen (siehe Abschnitt 1.2). Bei KI-Anwendungen für das Gesundheitssystem im Sinne dieser Ausschreibung handelt es sich um Produkte bzw. Systeme, die im Sinne der KI-VO als KI-Systeme definiert sind bzw. ein solches System beinhalten. Ein (voraussichtlicher) Einsatz im Gesundheitswesen muss gegeben sein. Die vom Auftragnehmer bereitgestellte Referenzdokumentation sowie die Stellungnahme haben den Zweck, zukünftige Konformitätsbewertungsprozesse zu erleichtern und zu beschleunigen und werden entsprechend, zum Zwecke der Nachnutzung durch Dritte, vom BMG oder durch das BMG benannte Institutionen veröffentlicht. Die Details entnehmen Sie bitte den Vergabeunterlagen. Lot 3 — Risikomanagement: Ausschreibungsgegenstand ist die Bereitstellung ausgewählter Teile der im Rahmen des Konformitäts-bewertungsprozesses üblicherweise zu erbringenden Dokumentation im Sinne einer Referenzdokumen-tation. Gegenstand der Dokumentation ist dabei eine KI-Anwendung für das Gesundheitswesen, welche jedoch nicht notwendigerweise ein Medizinprodukt sein muss. Zusätzlich zur Referenzdokumentation sind weitere mit der Dokumentationserstellung im Zusammenhang stehende Leistungen zu erbringen (siehe Abschnitt 1.2). Bei KI-Anwendungen für das Gesundheitssystem im Sinne dieser Ausschreibung handelt es sich um Produkte bzw. Systeme, die im Sinne der KI-VO als KI-Systeme definiert sind bzw. ein solches System beinhalten. Ein (voraussichtlicher) Einsatz im Gesundheitswesen muss gegeben sein. Die vom Auftragnehmer bereitgestellte Referenzdokumentation sowie die Stellungnahme haben den Zweck, zukünftige Konformitätsbewertungsprozesse zu erleichtern und zu beschleunigen und werden entsprechend, zum Zwecke der Nachnutzung durch Dritte, vom BMG oder durch das BMG benannte Institutionen veröffentlicht. Die Details entnehmen Sie bitte den Vergabeunterlagen. Lot 4 — Cybersicherheit und Robustheit: Ausschreibungsgegenstand ist die Bereitstellung ausgewählter Teile der im Rahmen des Konformitätsbewertungsprozesses üblicherweise zu erbringenden Dokumentation im Sinne einer Referenzdokumentation. Gegenstand der Dokumentation ist dabei eine KI-Anwendung für das Gesundheitswesen, welche jedoch nicht notwendigerweise ein Medizinprodukt sein muss. Zusätzlich zur Referenzdokumentation sind weitere mit der Dokumentationserstellung im Zusammenhang stehende Leistungen zu erbringen (siehe Abschnitt 1.2). Bei KI-Anwendungen für das Gesundheitssystem im Sinne dieser Ausschreibung handelt es sich um Produkte bzw. Systeme, die im Sinne der KI-VO als KI-Systeme definiert sind bzw. ein solches System beinhalten. Ein (voraussichtlicher) Einsatz im Gesundheitswesen muss gegeben sein. Die vom Auftragnehmer bereitgestellte Referenzdokumentation sowie die Stellungnahme haben den Zweck, zukünftige Konformitätsbewertungsprozesse zu erleichtern und zu beschleunigen und werden entsprechend, zum Zwecke der Nachnutzung durch Dritte, vom BMG oder durch das BMG benannte Institutionen veröffentlicht. Die Details entnehmen Sie bitte den Vergabeunterlagen Lot 5 — Dynamische KI: Ausschreibungsgegenstand ist die Bereitstellung ausgewählter Teile der im Rahmen des Konformitätsbewertungsprozesses üblicherweise zu erbringenden Dokumentation im Sinne einer Referenzdokumentation. Gegenstand der Dokumentation ist dabei eine dynamische KI-Anwendung für das Gesundheitswesen, welche jedoch nicht notwendigerweise ein Medizinprodukt sein muss. Zusätzlich zur Referenzdokumentation sind weitere mit der Dokumentationserstellung im Zusammenhang stehende Leistungen zu erbringen (siehe Abschnitt 1.2). Bei dynamischen KI-Anwendungen für das Gesundheitssystem im Sinne dieser Ausschreibung handelt es sich um Produkte bzw. Systeme, die im Sinne der KI-VO als KI-Systeme definiert sind bzw. ein solches System beinhalten und bei denen zusätzlich gegeben ist, dass eine Veränderung der KI nach Markteinführung/Inbetriebnahme erfolgen wird bzw. bereits erfolgt ist. Diese Veränderung kann entweder durch ein erneutes Training bzw. Finetuning erfolgen oder durch eine Veränderung der Datenbasis (beispielsweise veränderte Informationsquellen bei RAG-Systemen) bedingt sein. KI-Systeme, die sich nach Markteinführung autonom verändern sind hingegen im Rahmen dieser Ausschreibung ausgeschlossen. Ein (voraussichtlicher) Einsatz im Gesundheitswesen muss gegeben sein. Die vom Auftragnehmer bereitgestellte Referenzdokumentation sowie die Stellungnahme haben den Zweck, zukünftige Konformitätsbewertungsprozesse zu erleichtern und zu beschleunigen und werden entsprechend, zum Zwecke der Nachnutzung durch Dritte, vom BMG oder durch das BMG benannte Institutionen veröffentlicht. Die Details entnehmen Sie bitte den Vergabeunterlagen. Lot 6 — Drittanbieter KI: Ausschreibungsgegenstand ist die Bereitstellung ausgewählter Teile der im Rahmen des Konformitätsbewertungsprozesses üblicherweise zu erbringenden Dokumentation im Sinne einer Referenzdokumentation. Gegenstand der Dokumentation ist dabei eine KI-Anwendung für das Gesundheitswesen, welche jedoch nicht notwendigerweise ein Medizinprodukt sein muss. Zusätzlich zur Referenzdokumentation sind weitere mit der Dokumentationserstellung im Zusammenhang stehende Leistungen zu erbringen (siehe Abschnitt 1.2). Bei KI-Anwendungen für das Gesundheitssystem im Sinne dieser Ausschreibung handelt es sich um Produkte bzw. Systeme, die im Sinne der KI-VO als KI-Systeme definiert sind bzw. ein solches System beinhalten und die auf KI-Modelle oder KI-Dienstleistungen von Drittanbietern zugreifen und diese einsetzen. Ein (voraussichtlicher) Einsatz im Gesundheitswesen muss gegeben sein. Die vom Auftragnehmer bereitgestellte Referenzdokumentation sowie die Stellungnahme haben den Zweck, zukünftige Konformitätsbewertungsprozesse zu erleichtern und zu beschleunigen und werden entsprechend, zum Zwecke der Nachnutzung durch Dritte, vom BMG oder durch das BMG benannte Institutionen veröffentlicht. Die Details entnehmen Sie bitte den Vergabeunterlagen. Lot 7 — Post-Market-Surveillance: Der Auftragnehmer stellt dem BMG ausgewählte Teile der erforderlichen Dokumentation für die Konformitätsbewertung seiner KI-Anwendung für das Gesundheitssystem zur Verfügung. Eine Auflistung aller geforderten Dokumentationsbestandteile findet sich in Tabelle 1 in Anlage 1 dieser Leistungsbeschreibung. Die Dokumentation ist grundsätzlich so zu gestalten, dass sie im Rahmen eines tatsächlichen Konformitätsbewertungsprozesses genutzt werden könnte und mit hoher Wahrscheinlichkeit zu einer positiven Konformitätsbewertung beitragen würde. Sofern Dokumentationsbestandteile Bereiche der technischen Dokumentation im Sinne der KI-VO umfassen, gilt Folgendes: Obgleich Art. 11 Abs. 1 KI-VO grundsätzlich erlaubt, dass kleine und mittlere Unternehmen (KMU) die technische Dokumentation laut Anhang IV KI-VO in vereinfachter Weise anfertigen, wird eine solche Vereinfachung unabhängig davon, ob es sich bei dem Auftragnehmer um ein KMU handelt oder nicht, für diese Ausschreibung ausgeschlossen. Alle Dokumentationsbestandteile sind entsprechend auf jeden Fall vollumfänglich anzufertigen. Ferner ist zu beachten, dass die geforderten Dokumentationsbestandteile zum Teil auf die MDR Bezug nehmen. Dokumentationsbestandteile mit MDR-Bezug sind auch dann anzufertigen, wenn die KI-Anwendung kein Medizinprodukt darstellt. Sollte es sich bei der KI-Anwendung nicht um ein Hochrisiko-KI-System handeln, oder ist dies nicht eindeutig, ist für die Zwecke dieser Ausschreibung zu unterstellen, dass es sich um eine Hochrisiko-KI-Anwendung handelt. Einschlägige Dokumentationsbestandteile sind entsprechend trotzdem vollständig anzufertigen und eine verkürzte Dokumentation für Nicht-Hochrisiko-KI-Systeme ist im Rahmen dieser Ausschreibung nicht zulässig. Die Details entnehmen Sie bitte den Vergabeunterlagen.

Buyer: Bundesministerium für Gesundheit

Buyer country: DEU

Procedure: open

CPV code: 48180000

Full notice, tender documents and how to bid are on the official TED page (link above).