La IA en el periodismo y la atención médica: un desastre en desarrollo
La inteligencia artificial (IA) tiene un enorme potencial innovador, pero su implementación apresurada ha llevado a resultados desastrosos en el periodismo y la atención médica. En el ámbito periodístico, la tecnología ha sido utilizada sin garantizar su eficacia, lo que ha resultado en plagio, contenido de baja calidad y caos. Por otro lado, en el sector de la salud, la IA se ha superpuesto a un sistema ya quebrado, poniendo en riesgo la vida de las personas.
El desastre en el periodismo
El despliegue apresurado de la IA en el periodismo ha sido un fracaso. Los responsables de las empresas de medios, más preocupados por socavar el trabajo sindicalizado y tomar atajos, implementaron la tecnología sin asegurarse de su funcionamiento adecuado. Esto ha llevado a plagio, contenido de baja calidad y un producto final caótico.
La IA en la atención médica
La industria de la salud en Estados Unidos, que ya está quebrada, ha intentado implementar sistemas de inteligencia artificial sobre un sistema defectuoso. Un ejemplo de esto es UnitedHealthcare, la compañía de seguros de salud más grande del país, que ha utilizado IA para determinar si los pacientes de edad avanzada deben ser excluidos de los beneficios de Medicare. Sin embargo, una investigación reciente ha revelado que la IA comete constantemente errores importantes, privando prematuramente a las personas mayores de la atención que necesitan.
Según la investigación de STAT, UnitedHealth Group ha afirmado que su algoritmo, que predice la duración de la rehabilitación de los pacientes, es solo una guía. Sin embargo, los gerentes de la empresa han transmitido un mensaje diferente, indicando que el algoritmo debe seguirse al pie de la letra para interrumpir el pago en la fecha prevista. Esto ha llevado a que más del 90% de las denegaciones de cobertura basadas en el algoritmo sean revertidas en apelaciones, lo que demuestra que el algoritmo está negando cobertura erróneamente.
La falta de transparencia y los problemas de la IA
La forma en que la IA toma determinaciones no es transparente, pero se puede inferir que no es particularmente inteligente. El algoritmo utilizado por UnitedHealthcare, llamado nH Predict, extrae información de una base de datos de casos médicos, pero no tiene en cuenta muchos factores relevantes para la salud y la recuperación de un paciente. Esto incluye comorbilidades y eventos ocurridos durante las estadías hospitalarias, como el desarrollo de neumonía o la contracción de COVID-19 en un asilo de ancianos.
A pesar de los errores evidentes de la IA, los empleados de la empresa están obligados a cumplir estrictamente con las decisiones generadas por el algoritmo. Incluso cuando los usuarios apelan con éxito estas decisiones, son recibidos con rechazos posteriores dictados por la IA apenas unos días después, reiniciando el proceso.
El futuro de la IA en estas industrias
La IA está siendo utilizada como una forma rápida y fácil de reducir costos y automatizar sistemas problemáticos en el periodismo y la atención médica. Aunque no existen incentivos financieros para reformar estos sistemas deteriorados, hay muchos incentivos para utilizar la IA. Las únicas barreras de seguridad son la regulación gubernamental y las sanciones legales tardías.
En resumen, es probable que veamos más historias como esta en la próxima década, a medida que la IA continúe siendo implementada sin garantizar su eficacia y sin abordar los problemas subyacentes de estas industrias.
Filed Under: ai, automatización, chat-gpt, cobertura denegada, atención médica, modelos de aprendizaje de idiomas, medicare
Empresas: unitedhealthcare
