Mishal Khan, en seniorforsker ved UC Berkeley Labor Center, understreket potensielle fallgruver ved kunstig intelligens (AI) innen helsevesenet. Hun kategoriserte AI-bruken i elektronisk overvåkning, algoritmebasert ledelse og oppgaveautomatisering. Elektronisk overvåkning innebærer bruk av kameraer for å observere arbeidere, som for eksempel i transport eller bygg. Algoritmebasert ledelse benytter AI-programvare for å analysere samtaler og gi veiledning til arbeidere. Oppgaveautomatisering innebærer å outsourse spesifikke jobbfunksjoner til AI. Khan uttalte at uten reell makt, risikerer bruken av AI å utvikle eller forverre potensielle skader, inkludert tap av arbeidsplasser, tyveri av arbeidsprodukter, de-skilling av arbeidsoppgaver, lavere lønn, diskriminering, undertrykkelse av fagforeninger, tap av autonomi og følelse av fremmedgjøring fra pasienter.
Khan sin forskning identifiserte en bekymring knyttet til de-skilling, spesielt truer dette helsepersonells kompetanse og omfang av deres praksis. Tina Hernandez-Boussard, professor ved Stanford University, nevnte et tilfelle der medisinstudenter manglet AI-støtte under en strømbrudd, noe som hindret deres evne til å syntetisere informasjon. Det ble reist bekymringer angående datainnsamling av ‘ambient scribes’ og potensialet for algoritmebasert ledelse til å drive ‘gigifisering’ av helsevesens arbeidsplasser. Stater i USA vedtar lover for å adressere disse problemene, inkludert forbud mot å erstatte psykologer med AI og for å hindre opplæring av AI-erstatninger. Dette understreker behovet for en forsiktig og regulert tilnærming til implementering av AI i helsevesenet for å beskytte arbeidstakerrettigheter og sikre kvaliteten på pasientbehandlingen.