En situaciones de crisis, la rapidez y la precisión en la asistencia son cruciales. Sin embargo, los chatbots de inteligencia artificial han demostrado no estar a la altura en estos escenarios, según advirtieron profesionales de la salud y académicos. Informes recientes resaltan que las deficiencias pueden ser atribuidas, en parte, a la falta de transparencia de las empresas de inteligencia artificial sobre cómo sus sistemas manejan situaciones sensibles. Dicha transparencia podría ser un paso esencial para identificar fallas y mejorar la efectividad de estos programas, más allá de simplemente acumular datos de interacción.
Expertos sugieren que abrir los datos de seguridad y eficacia de los chatbots permitiría una evaluación más rigurosa por parte de la comunidad científica y, potencialmente, la sociedad en general. Esto, a su vez, podría impulsar regulaciones que exigieran estándares mínimos de rendimiento para tecnología utilizada en contextos críticos. Sin embargo, existe todavía un desafío considerable en equilibrar la innovación con la responsabilidad ética en el desarrollo y la implementación de la inteligencia artificial.
Tambien te puede interesar: OpenAI desafía acusaciones de Apple sobre secretos comerciales | OpenAI solicita a juez federal desestimar demanda de Apple por secretos comerciales
