Mishal Khan, Senior Researcher am UC Berkeley Labor Center, hat potenzielle Fallstricke des Einsatzes von Künstlicher Intelligenz (KI) im Gesundheitswesen aufgezeigt. Sie kategorisierte die Anwendungen in elektronische Überwachung, algorithmische Steuerung und Aufgabenautomatisierung. Die elektronische Überwachung beinhaltet die Verwendung von Kameras zur Beobachtung von Mitarbeitern, beispielsweise in der Transport- oder Bauindustrie. Die algorithmische Steuerung nutzt KI-Software zur Analyse von Gesprächen und zur Bereitstellung von Coaching für Mitarbeiter. Die Aufgabenautomatisierung umfasst die Auslagerung spezifischer Arbeitsfunktionen an KI. Khan betonte, dass die Verwendung von KI ohne echte Macht das Risiko birgt, bestehende Risiken zu entwickeln oder zu verschärfen. Diese Risiken umfassen Arbeitsplatzverluste, Diebstahl von Arbeitsergebnissen, Kompetenzerodung, Lohnausfälle, Diskriminierung, Unterdrückung von Arbeitsorganisationen, Verlust der Autonomie und Entfremdung von Patienten.
Tina Hernandez-Boussard, Professorin an der Stanford University, berichtete von einem Fall, in dem medizinische Assistenzärzte während eines Stromausfalls ohne KI-Unterstützung ihre Fähigkeit zur Synthese von Informationen behindert sahen. Es wurden Bedenken hinsichtlich der Datenerfassung durch Ambient Scribes und das Potenzial der algorithmischen Steuerung zur „Gigifizierung“ von Gesundheitsberufen geäußert. Mehrere Bundesstaaten verabschieden Gesetze, um diese Probleme anzugehen, einschließlich Verbote zur Ersetzung von psychotherapeutischen Fachkräften durch KI und zur Verhinderung der Ausbildung von KI-Ersatzkräften.