- OpenAI aclaró recientemente que, ante los cambios en los términos que algunos interpretaron como que "ya no se podrá recibir asesoría legal o médica con ChatGPT", no ha cambiado las condiciones sobre la asesoría legal y médica
- La actualización de la política de uso del 29 de octubre especifica que la asesoría que requiere licencia profesional (legal, médica, etc.) no puede proporcionarse sin la intervención adecuada de un profesional con licencia
- Incluso en la política anterior al 29 de enero de 2025, ya se restringían las actividades que pudieran afectar de forma significativa la seguridad, el bienestar o los derechos de otras personas, e incluían ofrecer asesoría legal, médica o financiera personalizada
Aclaración de la política de OpenAI
- OpenAI señaló que ChatGPT no sustituye la asesoría legal o médica profesional y dejó en claro que este cambio en los términos no introduce nada nuevo
- En una declaración enviada a CTVNews, mencionó: “Esto no es un cambio nuevo, y ChatGPT sigue siendo un recurso útil para entender información legal y de salud”
- En la actualización de la política de uso del 29 de octubre, se especifica que la asesoría personalizada que requiere licencia (legal, médica, etc.) no puede ofrecerse sin la intervención adecuada de un profesional autorizado
- Esto quedó definido de forma más clara que en la redacción de la política del 29 de enero de 2025
- En ese momento, la política exigía no realizar ni promover actividades que pudieran afectar de forma significativa la seguridad, el bienestar o los derechos de otras personas, y eso incluía prohibir la asesoría legal, médica o financiera personalizada
- OpenAI también afirmó que “el comportamiento del modelo tampoco ha cambiado”, subrayando la continuidad de la política existente
Uso y límites de ChatGPT para información médica
- ChatGPT se ha consolidado como una herramienta ampliamente utilizada por los canadienses para buscar respuestas sobre problemas de salud
- Un equipo de investigación de la Universidad de Waterloo evaluó el desempeño de ChatGPT-4 con preguntas adaptadas de escenarios de exámenes de certificación médica
- Como resultado, las respuestas correctas fueron del 31% y las respuestas claras del 34%
- Otro estudio de la Universidad de Columbia Británica encontró que las expresiones empáticas de ChatGPT se perciben como más persuasivas que las de una persona real
- Incluso cuando la información es inexacta, al presentarse con un tono seguro y confiable, a los usuarios les cuesta más distinguir los errores
- Los médicos ya están experimentando situaciones en las que pacientes que confiaron en consejos de herramientas de IA llegan a consulta con una conclusión ya tomada
Corrección del artículo
- Una versión inicial del artículo afirmaba que OpenAI había suspendido la función de asesoría médica y legal, pero
- OpenAI aclaró que “el comportamiento del modelo no ha cambiado”, por lo que se hizo la corrección
2 comentarios
En países donde el sistema de salud no está bien establecido, probablemente sería de mucha ayuda usarlo.
Opiniones en Hacker News
Yo entendí esto no como “no se le puede hacer preguntas médicas o legales directamente a ChatGPT”, sino como que “no se puede crear un servicio que brinde asesoría médica o legal a otras personas basado en ChatGPT”
Por ejemplo, Epic no podría meter ChatGPT en su app para que lea expedientes de pacientes por ellos. Pero una persona sí puede preguntarle directamente a ChatGPT
Aun así, todavía no he podido encontrar por mi cuenta la cláusula de los términos de uso citada en el artículo
Parece que el periodista confundió ChatGPT con la API de GPT. Los términos reales están integrados en los Términos de uso de OpenAI
La frase relevante dice que no se debe usar la salida para usos que puedan tener un impacto material, como decisiones legales, médicas o financieras sobre una persona
Como hubo mucha promoción sobre que GPT aprobó exámenes de derecho y medicina, se interpreta como un mecanismo para evitar responsabilidad si surgen problemas por consejos reales
Si una empresa como Epic quisiera agregar una función así, probablemente tendría que poner un descargo de responsabilidad del tipo “esto fue generado por IA y no es asesoría legal”
Si alguien como yo quiere tomar en cuenta la opinión de ChatGPT, puede preguntarle directamente. Reempaquetarlo y venderlo es engañar al usuario
El problema real no es el cambio de política, sino que la IA ha avanzado más rápido en su capacidad de hablar con confianza que en su precisión real
Por eso incluso las respuestas equivocadas suenan como si vinieran de un experto, y la gente termina confiando en ese tono seguro
Especialmente en áreas como medicina o derecho, donde el resultado importa mucho, esa brecha entre certeza y precisión es el mayor riesgo
He visto varias veces a personas usar ChatGPT como si fuera un terapeuta. A veces hasta hacen autodiagnóstico
Da risa, pero en realidad es muy peligroso. El modelo siempre tiende a responder de forma afirmativa, así que es fácil que el usuario se vaya por un camino equivocado
Casos así muy probablemente terminarán en demandas
De hecho, he oído de casos donde consejos de un LLM llevaron a intentos de suicidio o daños graves
Si conocen a alguien que esté usando un LLM de esa manera, por favor anímenlo a buscar ayuda profesional
ChatGPT solo hizo ese proceso más fácil. En el fondo, la causa es el problema de acceso a la atención médica
Se siente irónico que OpenAI enfatice tanto sus propios términos mientras no parece preocuparse por los derechos de autor o la PI de otras personas
(Welcome to the Internet, Jeff Bezos Song)
Al final, ve estos términos solo como una forma de evitar responsabilidad, para que OpenAI no pueda ser demandada si los usuarios usan mal la herramienta
Ya esperaba que en algún momento llegaran regulaciones así
Más adelante probablemente inventen algo como una certificación “HippocraticGPT”, y vendan una versión segura para uso médico o legal
Así podrían monetizarlo con licencias empresariales
La empresa donde trabajo también solo ofrece herramientas para profesionales. Los pacientes no ven directamente la salida del modelo
Esto no es para una mejor atención, sino para una atención más eficiente
El artículo fue corregido y ahora aclara que OpenAI no prohibió la asesoría médica o legal, sino que el comportamiento del modelo no ha cambiado
El texto original puede verse en este artículo de CTV News
Alguien dijo que el año pasado pudo evitar un derrame cerebral gracias a ChatGPT. Sintió que el LLM fue de gran ayuda para obtener información médica
Como es un sistema no determinista, los resultados cambian de un momento a otro
Aun así, agregó que qué bueno que todo salió bien
Hace poco, en OpenAI Dev Day, se presentó en el escenario un caso de apoyo al diagnóstico médico, pero esta política parece haber surgido porque el riesgo legal era demasiado grande
Parece muy probable que OpenAI lance en el futuro un producto exclusivo para médicos o abogados
Si prohíben la asesoría legal o médica en el ChatGPT general, eso permite diferenciar precios
Aunque a largo plazo, si se relajan las regulaciones, eso también podría llevar al reemplazo de profesionales
Yo interpreté esta cláusula como que “prohíbe las demandas por asesoría médica o legal incorrecta”
Esta cláusula simplemente aclara que no debes presentarlo como un “servicio de abogado con IA basado en ChatGPT”