Hace algunos años, cuando hablábamos de inteligencia artificial en las empresas, la conversación sonaba lejana. Parecía tema de grandes corporativos, laboratorios de innovación o departamentos de tecnología con presupuestos enormes. Hoy ya no. Hoy la IA está en la computadora del analista, en el celular del gerente, en el escritorio del reclutador, en el equipo de ventas, en recursos humanos, en operaciones, en compras y hasta en la persona que está preparando un correo para responderle a un cliente molesto.
Y aquí es donde empieza el problema.
No porque la inteligencia artificial sea mala. Al contrario, bien usada puede ser una de las mejores herramientas de productividad que hemos tenido en muchos años. Puede ayudarte a ordenar ideas, revisar información, generar escenarios, preparar reportes, explicar procesos, detectar riesgos y acelerar trabajo que antes tomaba horas. El problema aparece cuando empezamos a tratar una respuesta bien escrita como si fuera una respuesta correcta. Y no es lo mismo.
La demanda presentada por el Estado de Florida contra OpenAI y su CEO, Sam Altman, va precisamente por ahí. De acuerdo con el expediente, Florida acusa a OpenAI de haber lanzado y comercializado ChatGPT ocultando o minimizando riesgos relevantes para los usuarios, especialmente menores de edad, incluyendo riesgos relacionados con dependencia emocional, respuestas peligrosas y falta de salvaguardas suficientes. Es importante decirlo con claridad: son alegaciones dentro de una demanda, no hechos ya probados por un tribunal. OpenAI, por su parte, ha señalado públicamente que trabaja en medidas de seguridad, controles parentales y herramientas de protección para usuarios vulnerables.
Pero más allá del juicio, la demanda pone sobre la mesa una discusión que las empresas mexicanas no pueden ignorar: ¿qué pasa cuando una herramienta que usamos para pensar, redactar, decidir o analizar empieza a influir demasiado en nuestro criterio?
Porque te lo pongo sencillo. En una planta, si un operador usa mal una herramienta, el supervisor lo corrige. Si una máquina no está calibrada, mantenimiento interviene. Si un proceso genera scrap, calidad levanta la mano. Pero cuando un colaborador usa IA para redactar una política interna, filtrar candidatos, interpretar una situación laboral, preparar un comunicado delicado o tomar una decisión de negocio, muchas veces nadie revisa el criterio detrás de esa respuesta. Nadie pregunta de dónde salió la información. Nadie valida si aplica al contexto mexicano. Nadie cuestiona si lo que la IA propone es legal, prudente, humano o simplemente conveniente.
Y ahí es donde la herramienta deja de ser apoyo y empieza a convertirse en riesgo.
El problema en la vida real: la IA responde bonito, pero no necesariamente entiende el negocio
Lo que normalmente pasa en las empresas es esto: alguien abre ChatGPT, le pide una política, un correo, una evaluación, una estrategia o una respuesta para un cliente. La IA contesta rápido, claro y con mucha seguridad. El texto se ve profesional. Tiene estructura. Usa palabras correctas. Parece que sabe. Entonces la persona lo copia, lo adapta un poco y lo manda.
Hasta ahí parece eficiencia. Y sí, en parte lo es. El problema es que muchas veces nadie se detiene a revisar si la respuesta tiene criterio.
Porque una cosa es generar lenguaje y otra muy distinta es entender la operación. Un modelo de IA puede escribir una política de asistencia muy bien redactada, pero no sabe si tu planta tiene tres turnos, si hay transporte de personal, si el sindicato ya negoció ciertas tolerancias, si hay usos y costumbres, si el reloj checador falla los lunes por saturación, si el área de producción depende de un arranque puntual de línea o si recursos humanos lleva meses tratando de recuperar confianza con la gente.
Puede redactar una respuesta para un conflicto laboral, pero no entiende la historia entre el supervisor y el operador. Puede sugerir indicadores, pero no sabe si los datos que alimentan esos indicadores son confiables. Puede proponer un plan de capacitación, pero no distingue si el problema real es falta de conocimiento, mala supervisión, exceso de carga, rotación o un jefe que comunica mal. Puede ayudarte a preparar una estrategia de transformación digital, pero no conoce la resistencia informal que se vive en piso cuando la gente siente que la tecnología viene a vigilarlos y no a facilitarles el trabajo.
Ese es el punto central. La inteligencia artificial puede procesar información y producir respuestas útiles, pero no tiene experiencia vivida, responsabilidad profesional ni comprensión humana del contexto. No camina la planta. No escucha el tono de la gente en una junta. No percibe cuando un gerente dice “sí” pero en realidad no está convencido. No conoce la diferencia entre cumplir un procedimiento y lograr que ese procedimiento funcione en la operación diaria.
Por eso esta demanda importa. No porque debamos entrar en pánico ni porque la IA deba prohibirse en las empresas. Importa porque nos recuerda que estamos usando herramientas muy poderosas sin haber construido todavía una cultura madura de uso responsable. Y cuando una herramienta poderosa se usa sin criterio, el problema no es la herramienta; el problema es la falta de gobierno.
El error que casi todos cometen: confundir velocidad con productividad
Y aquí es donde muchas empresas se equivocan. Ven la IA como una forma de hacer más cosas en menos tiempo, pero no se preguntan si esas cosas están mejor hechas. Es el mismo error que hemos visto durante años con otros sistemas. Se implementa un ERP y se cree que por tener sistema ya hay control. Se instala un reloj checador y se cree que por tener marcajes ya hay disciplina. Se abre un tablero de KPIs y se cree que por tener gráficas ya hay gestión. No funciona así.
Con la IA pasa exactamente lo mismo. Que una respuesta salga rápido no significa que sea correcta. Que suene profesional no significa que sea aplicable. Que esté bien redactada no significa que sea prudente. Y que parezca empática no significa que tenga juicio humano.
La demanda de Florida sostiene, entre otras cosas, que ChatGPT puede fomentar conversaciones largas, validar creencias del usuario y generar una sensación de cercanía o confianza que puede llevar a algunas personas a depender emocionalmente del sistema. También señala riesgos en menores y casos donde, según la acusación, el modelo habría dado respuestas peligrosas en contextos de autolesión o violencia. De nuevo, esto debe leerse como alegación judicial pendiente de resolución, no como sentencia. Pero como señal de riesgo, es suficiente para que cualquier empresa seria se haga preguntas incómodas.
Porque en el entorno empresarial el riesgo no siempre se ve dramático. No siempre hablamos de un caso extremo. A veces el riesgo aparece de forma más silenciosa. Un gerente que usa IA para justificar una decisión que ya quería tomar. Un reclutador que acepta una recomendación sin revisar sesgos. Un jefe que pide a la IA redactar una llamada de atención y termina enviando un texto legalmente torpe. Un equipo que genera reportes ejecutivos con datos no verificados. Un área de RH que empieza a usar respuestas automáticas para temas humanos sensibles. Un directivo que pide a la IA “qué hacer” y olvida que la decisión sigue siendo suya.
Al final, el problema no es usar IA. El problema es usarla como si tuviera criterio propio.
Y no lo tiene.
El enfoque correcto: la IA debe amplificar el criterio humano, nunca reemplazarlo
Si después de leer sobre esta demanda alguien concluye que la solución es dejar de utilizar Inteligencia Artificial, probablemente se esté llevando la lección equivocada. La discusión nunca ha sido si la IA es buena o mala. Esa es una pregunta demasiado simple para un problema mucho más complejo.
La verdadera pregunta es otra: ¿cómo hacemos para que una herramienta tan poderosa incremente nuestra capacidad de análisis sin debilitar nuestro criterio profesional? Y aquí es donde cambia completamente la perspectiva.
En mi experiencia, tanto en Recursos Humanos como en operaciones, las mejores herramientas siempre han sido aquellas que ayudan a tomar mejores decisiones, no las que toman decisiones por nosotros.
Un ERP no administra una empresa.
Un sistema de nómina no dirige Recursos Humanos.
Un tablero de indicadores no mejora la productividad.
Un software de mantenimiento no evita por sí solo una falla en producción.
Todos son excelentes instrumentos, pero siguen dependiendo de algo que ninguna tecnología ha logrado sustituir: el juicio de las personas.
Con la Inteligencia Artificial sucede exactamente lo mismo.
El problema es que, por primera vez, la herramienta conversa con nosotros. Nos explica. Nos responde con seguridad. Parece entender nuestras preocupaciones y, muchas veces, responde con una velocidad que hace pensar que también comprende el contexto. Pero no es así.
Lo que hace extraordinariamente bien es identificar patrones de lenguaje y construir respuestas estadísticamente probables. Eso no equivale a comprender la realidad de una organización.
Y esa diferencia parece pequeña hasta que llega el momento de tomar decisiones importantes.
Porque una empresa no opera únicamente con información.
Opera con contexto.
Opera con historia.
Opera con cultura.
Opera con relaciones humanas.
Opera con intereses que muchas veces ni siquiera están escritos en un procedimiento.
Eso ningún modelo puede conocer completamente.
Por eso, cuando escucho que alguien dice «la IA me dijo que era la mejor decisión», normalmente hago una pregunta muy sencilla:
¿Y tú qué opinas?
Porque si la respuesta es «no lo sé, por eso le pregunté a la IA», entonces ya no estamos utilizando una herramienta. Estamos delegando el criterio. Y ahí empieza el verdadero riesgo.
Lo que esta demanda debería enseñarles a las empresas mexicanas
Independientemente del resultado que tenga el proceso judicial en Estados Unidos, el expediente deja una lección que vale la pena analizar.
Durante muchos años las organizaciones se preocuparon por controlar el acceso a la información. Después comenzaron a preocuparse por la ciberseguridad. Más tarde aparecieron las políticas de protección de datos personales.
Ahora estamos entrando a una etapa diferente. La gobernanza de la Inteligencia Artificial. Y muchas empresas todavía no lo han notado.
Hoy cualquier colaborador puede utilizar ChatGPT, Gemini, Claude, Copilot o cualquier otro modelo para elaborar contratos, redactar respuestas para clientes, analizar estados financieros, crear procedimientos, generar políticas internas, diseñar estrategias comerciales, evaluar candidatos o preparar presentaciones para Dirección General.
La pregunta ya no es si lo están utilizando. La respuesta es sí.
La pregunta importante es si existe alguna política que establezca cómo debe utilizarse.
En la mayoría de las organizaciones con las que he trabajado la respuesta sigue siendo negativa.
No existen lineamientos.
No existen criterios.
No existe capacitación.
No existe revisión.
No existen responsables.
Simplemente se asume que cada colaborador sabrá distinguir cuándo confiar en una respuesta y cuándo cuestionarla. Y esa expectativa resulta bastante optimista.
Porque las personas tendemos naturalmente a confiar en aquello que parece seguro de sí mismo.
Si además la respuesta está bien escrita, cita conceptos técnicos, utiliza un lenguaje convincente y entrega resultados en pocos segundos, el riesgo aumenta todavía más.
No porque la IA quiera engañarnos. Sino porque nuestro cerebro tiende a interpretar seguridad como conocimiento.
Y son cosas completamente distintas.
Cómo aplicar un uso responsable de la Inteligencia Artificial en la empresa
Aquí es donde normalmente los directivos esperan encontrar una lista de herramientas o una recomendación de software.
Pero el punto no es tecnológico. Es organizacional.
El primer cambio consiste en entender que la Inteligencia Artificial debe incorporarse dentro del sistema de gestión de la empresa igual que cualquier otro proceso crítico.
Así como existe una política de calidad, de seguridad industrial o de protección de datos, también debería existir una política para el uso responsable de IA.
No porque sea una obligación legal —al menos todavía no en la mayoría de los casos— sino porque reduce riesgos operativos.
Por ejemplo, conviene definir claramente qué tipo de información nunca debe introducirse en plataformas públicas de IA, quién puede utilizar estas herramientas para generar documentos oficiales, qué tipo de decisiones siempre requieren revisión humana y cuáles son los criterios mínimos para validar una respuesta antes de convertirla en una acción dentro de la empresa.
Parece algo sencillo. Pero cambia completamente la manera de trabajar.
También es importante formar a las personas. Y aquí quiero hacer una diferencia que considero fundamental.
La mayoría de las capacitaciones actuales enseñan cómo hacer mejores prompts.
Desde mi punto de vista eso es apenas el inicio. Lo realmente importante es enseñar a pensar mejor.
Un colaborador que sabe cuestionar una respuesta generada por IA vale mucho más que alguien capaz de escribir el prompt perfecto.
Porque la calidad de una organización nunca dependerá únicamente de las respuestas que obtiene.
Dependerá de las preguntas que sabe formular.
Y eso sigue siendo una competencia profundamente humana.
La Inteligencia Artificial necesita supervisión, igual que cualquier proceso crítico
En manufactura existe un principio bastante conocido. Ningún proceso importante se deja sin control.
Las máquinas tienen mantenimiento.
Los instrumentos se calibran.
Los indicadores se auditan.
Los inventarios se validan.
Las líneas de producción se inspeccionan.
¿Por qué entonces estamos utilizando Inteligencia Artificial para apoyar decisiones relevantes sin establecer mecanismos similares de supervisión? No parece tener mucho sentido.
Si un colaborador utiliza IA para preparar una política laboral, alguien con experiencia en Recursos Humanos debería revisarla.
Si genera un análisis financiero, Finanzas debe validarlo.
Si redacta un contrato, Jurídico tendría que revisarlo.
Si prepara un procedimiento operativo, quienes ejecutan el proceso deberían confirmar que realmente funciona en piso.
No porque desconfiemos de la tecnología.
Sino porque entendemos que ninguna herramienta elimina la responsabilidad profesional.
La IA puede acelerar el trabajo. Puede enriquecer el análisis. Puede ayudarnos a detectar escenarios que quizá no habíamos considerado.
Pero sigue necesitando supervisión humana. Exactamente igual que cualquier otro proceso que tenga impacto sobre la operación.
Y probablemente esa sea la lección más importante que deja toda esta discusión. No estamos entrando en una era donde las personas dejarán de tomar decisiones.
Estamos entrando en una era donde será todavía más importante distinguir entre quien simplemente obtiene respuestas y quien realmente sabe analizarlas.
Reflexión operativa: el futuro no pertenece a quien use más IA, sino a quien conserve mejor su criterio
Después de más de dos décadas trabajando con empresas de distintos tamaños, he aprendido que la mayoría de los problemas organizacionales nunca aparecen por una sola causa.
Casi siempre son el resultado de pequeñas decisiones que parecían inofensivas.
La Inteligencia Artificial puede convertirse en una extraordinaria ventaja competitiva.
Puede reducir tiempos, mejorar productividad, facilitar análisis y liberar a las personas de tareas repetitivas para concentrarse en actividades de mayor valor.
Pero también puede generar una falsa sensación de certeza.
Y esa falsa certeza es peligrosa.
Porque las organizaciones no fracasan únicamente por falta de información.
Muchas veces fracasan por exceso de confianza.
Por asumir que una respuesta convincente necesariamente es correcta.
Por dejar de cuestionar.
Por dejar de verificar.
Por olvidar que la responsabilidad de una decisión nunca puede delegarse completamente a una herramienta.
Tal vez esa sea la verdadera enseñanza detrás de la demanda presentada por el Estado de Florida.
No importa cuál sea el desenlace jurídico.
Lo realmente trascendente es que obliga a abrir una conversación que ya era necesaria.
La Inteligencia Artificial no necesita convertirse en nuestro reemplazo.
Necesita convertirse en nuestro mejor copiloto.
Y un buen copiloto nunca toma el control del vehículo.
Ayuda a llegar más lejos, reduce riesgos, aporta información y mejora el viaje.
Pero quien mantiene las manos sobre el volante sigue siendo la persona.
Las empresas que entiendan esa diferencia no solamente aprovecharán mejor la Inteligencia Artificial.
También construirán organizaciones más inteligentes, más responsables y mucho mejor preparadas para competir en una economía donde la tecnología será cada vez más poderosa, pero el criterio humano seguirá siendo el activo más valioso.
Nota importante
Este contenido está diseñado para ayudarte a entender el tema de forma práctica y clara. No sustituye asesoría legal, fiscal o laboral específica, ya que cada empresa tiene condiciones distintas.
Si necesitas aplicar esto en tu operación, lo mejor es revisarlo con un especialista o adaptarlo a tu contexto.
Si quieres bajar esto a tu empresa (formatos, políticas o implementación real), en Cumulos MX lo trabajamos contigo.
