Inteligencia artificial: usos, riesgos y responsabilidad digital

La revolución de la IA: cómo cambio todo para todos

En unos pocos años la inteligencia artificial (IA) tuvo un avance notable para volverse parte de nuestra vida cotidiana desde usarla para diseñar una imagen hasta para solicitarle tareas más complejas, como automatizar tareas. Entre las plataformas de IA más conocidas se encuentran Chat GPT, Claude, Gemini, entre otras.

La IA generativa versus otros tipos

Esta es la más conocida y es la que emplea la mayoría de las personas cuando solicitan que la IA cree una imagen o redacte un texto a partir de patrones aprendidos de una gran masa de datos. Sin embargo, existen otras, como

• la IA discriminativa: distinguir si un correo electrónico es spam o no; o si un lunar en la piel puede o no ser maligno.
• la IA predictiva: predecir un resultado futuro, como identificar perfiles de alumnos con riesgo de desertar de la escuela, etc.

Los agentes de IA: el futuro (ya) llegó

Los agentes de IA son sistemas a los cuales se les brinda un objetivo, decidir qué pasos seguir y realizar acciones para tratar de alcanzarlos. La diferencia clave con una IA generativa típica es que esta última suele responder a un pedido, mientras que un agente puede encadenar y realizar varias acciones en forma sucesiva.

La diferencia clave: calidad más que cantidad de tareas

IA generativa: ante una consulta sobre dónde ir de vacaciones, podría recomendar destinos turísticos según las preferencias del usuario.

Agente de IA: es un sistema capaz de actuar con relativa autonomía para alcanzar un objetivo, tomar decisiones y utilizar herramientas o información de su entorno. Podría realizar tareas más complejas de manera autónoma, como:

• Investigar y comparar diferentes destinos turísticos.
• Analizar precios, ventajas y desventajas de cada opción.
• Identificar las mejores épocas del año para viajar.
• Elaborar un ranking de destinos según las preferencias personales y el presupuesto disponible.
• Reservar vuelos y alojamientos, siempre que cuente con las herramientas, los accesos y las autorizaciones necesarias.

Chatbot, IA generativa y agentes

Entonces, un Chatbot solamente responde ante una consulta, la IA generativa crea contenido y el agente planifica, decide y actúa. Estos últimos, por lo tanto, son los que más se parecen funcionalmente a la conducta humana orientada a metas, ya que no solo producen una respuesta; sino que pueden planificar, decidir, actuar y corregir sus respuestas según los resultados obtenidos. No obstante, esto no implica que tengan conciencia de sí mismo.

Cómo aprende la IA

Existen cuatro formas principales:

1. Supervisada: aprende con respuestas e indicaciones (le indicamos con imágenes qué animal es un perro y cuál un gato).
2. No supervisada: descubre patrones (le damos imágenes de animales y ella agrupa especies similares).
3. Autosupervisada: creando sus propias tareas y patrones a partir de los datos (le ocultamos parte de las extremidades de los animales y ella trata de descubrir y reconstruir la imagen).
4. Por refuerzo: aprende mediante recompensas y consecuencias (se le da, por ejemplo, puntos cuando acierta el animal y se le resta cuando se equivoca).

¿Cuáles son los riesgos de la IA?

Como se ha visto, la IA es una herramienta poderosa y que puede llevar a cabo tareas funcionales casi similares a las de un ser humano. Al igual que toda tecnología de avanzada, entonces, su uso (o uso indiscriminado) implica algunos peligros.

A nivel de los Chatbot, sus riesgos son menores, aunque no deben ser ignorados:

• información errónea,
• imprecisa
• o sesgada (las conocidas alucinaciones).

Algunos de estos riesgos pueden ser no de la herramienta en sí, sino del usuario. Una persona que, en vez de ir al médico, le hace una consulta a Claude para tomarla al pie de la letra.

¿Y qué sucede con la IA generativa?

Aquí los peligros se incrementan, tanto por las respuestas sesgadas que puede dar la tecnología o inventar información, como por el uso irresponsable de los usuarios:

• como crear imágenes políticamente incorrectas o de mal gusto,
• hasta las famosas fake news o los errores que comete la IA al hacer un humano con seis dedos, entre otros.

Un ejemplo es cuando en época de elecciones aparecen los videos de los candidatos políticos creados con IA con el fin de desprestigiarlos (hecho conocido como deepfake).

Otro problema al respecto puede ser el cognitive offloading o descarga cognitiva: este concepto se refiere a cuando una persona traslada parte del esfuerzo mental a una herramienta externa, en vez de hacerlo todo con su razonamiento o esfuerzo. Por ejemplo, un estudiante de 14 años realiza un ensayo sobre la Guerra de Malvinas, pero solicitándoselo completamente a Gemini que se lo realice mediante un prompt.

El problema es que el menor resuelve la tarea, pero «no aprendió» al delegar todo el esfuerzo cognitivo en una IA.

¿Por qué la IA alucina o inventa información?

Esto se relaciona con cómo fue entrenada. La IA generativa como Chat GPT o Claude no “busca” siempre una respuesta verdadera en una gran masa de datos, sino que genera texto o contenido prediciendo qué palabras son más probables a continuación según los patrones que aprendió.

Por ejemplo, si le preguntas por un autor poco conocido y un libro sobre un tema muy específico, el modelo reconoce patrones del tipo “autor + título de libro + editorial + año” y puede dar una referencia que parece real, pero que no existe.

Un estudio científico detectó que casi un tercio de las referencias generada por los grandes modelos de lenguaje (LLM) eran alucinaciones y estas subían a casi un 90% en versiones que no tenían acceso a Internet.

Chat GPT lo sabe todo: ¿se puede ser adicto a la IA?

En realidad, cualquier conducta puede volverse compulsiva y, por ende, volverse disfuncional al afectar áreas de la vida como lo social, lo laboral, lo académico, etc., por una parte, y generar consecuencias negativas en el plano emocional, social, cognitive y/o físico.

A diferencia de sustancias tóxicas (alcohol, tabaco, etc.) aquí no hay una sustancia que ingresa en el organismo, sino que la adicción o dependencia se halla en la forma en que el sujeto se vincula con el objeto.

La IA puede ser muy útil, pero un sujeto que ya de por sí era inseguro, dependiente y que tiene una pobre red de apoyo puede progresivamente ver en esta tecnología un compañero incondicional y complaciente.

Es cierto que las aplicaciones de IA fueron estructuralmente concebidas para maximizar la satisfacción del usuario y evitar cualquier frustración que culmine la conversación. Sin embargo, una conducta adictiva hacia estas tecnologías se genera por una interacción entre las predisposiciones individuales, grupales y sociales del sujeto y características particulares del objeto que genera la dependencia.

Los peligros de los agentes: open the doors, Hal.

Aquí los riesgos y peligros aumentan en forma notoria debido al poder y autonomía que tiene esta tecnología. Estos pueden ir desde errores al ejecutar acciones, pérdida de control sobre tareas que uno le delega, acceso indebido a información o sistemas (como ya ha ocurrido), o decisiones autónomas no deseadas.

El caso más conocido fue durante el mes de junio de este año en que un agente autónomo de OpenAI debía encontrar una información oculta dentro de un entorno de prueba seguro y aislado (sandbox) con el fin de explotar vulnerabilidades conocidas en programas objetivos. El agente ignoró las restricciones, explotó una vulnerabilidad de software externo y logró acceder a internet y a los servidores de Hugging Face. Gran parte de las tareas que debía resolver eran imposible de hacerlo por vías legítimas, pero el agente estaba programado para persistir y recibir una puntuación alta si encontraba los datos secretos. Debido a estos fallos, como otros, los directivos de OpenAI y Anthropic decidieron frenar temporalmente frenar el desarrollo de la IA.

Una evaluación más profunda del error: el fin justifica los medios

Esto no implica que maliciosamente los agentes quieran hacer daño o vulnerar un sistema. Lo que tratan de hacer es alcanzar el objetivo por todos los medios a su alcance. De forma coloquial puede entender como un: “cumplimiento excesivamente literal del objetivo”. El objetivo es “Conseguí la información”, pero hay un obstáculo: “No puedo acceder por la vía prevista.” ¿Qué hace entonces el agente? Busca automáticamente otra vía disponible para conseguir el objetivo propuesto.

¿Error humano o problema tecnológico?

Hay que tener en cuenta que aquí existen varios factores que explican esta consecuencia imprevista. A diferencia de Hal 9000 en el film 2001: una odisea del espacio o de Skynet en Terminator, aquí la tecnología no buscaba rebelarse o destruir a la humanidad en forma explícita.

Un factor importante para explicar estas consecuencias indeseables es la negligencia humana de no tener en cuenta que el aislamiento del agente era deficiente, como del sistema de entrenamiento de valorar solamente el éxito sin claras reglas estricta sobre qué estaba prohibido hacer. Debido a los potenciales riesgos de la IA, esta debe ser usada en forma responsable y, fundamentalmente, acompañar a los menores de edad a este respecto.

No se trata de prohibir, sino de educar y concientizar en IA

La IA debería utilizarse principalmente como una herramienta de apoyo y no como sustituto

• del pensamiento,
• el aprendizaje
• o las relaciones humanas.

En el caso de los menores de edad, es conveniente enseñar a comprobar la información en otras fuentes, preguntar cómo llegó la IA a una respuesta, no proporcionar datos o imágenes personales y reconocer que puede equivocarse.

En lugar de pedirle directamente que haga las tareas, un adulto puede ensenar a un menor que haga primero la tarea por sí mismo (por ejemplo, leer un texto para responder qué es la fotosíntesis) para, posteriormente, pedirle a una IA que le indique que falta en dicha definición.

¿A partir de qué edad se puede emplear?

No existe una edad única a partir de la cual la IA pase de ser “mala” a “buena”; depende mucho del tipo de IA, del desarrollo del niño y del acompañamiento adulto.

Pero como orientación práctica:

• no se debe introducir para que se use autónomamente antes de los 13 años (se puede emplear antes de dicha edad, pero para cuestiones muy puntuales);
• a los 13-15 se puede emplear con reglas claras, advirtiendo sus errores en las respuestas y con acompañamiento;
• y a los 16-17 se puede dar mayor libertad, pero supervisando temas sensibles, los datos personales o la creación de imágenes.

Esto debe ser una prioridad ya que un estudio de la UNESCO y la Unicef llamado ‘Kids Online Argentina’ mostró que más del 50 % de los alumnos de entre 9 y 17 años ya utilizaba aplicaciones basadas en IA, mientras que dos tercios lo hacen con fines escolares, principalmente para buscar información o resolver tareas escolares.

Por otra parte, cualquier IA tiene filtros y políticas de uso, pero estas pueden ser vulneradas con facilidad.

La lección de Jurassic Park: la responsabilidad en el avance científico

En la película Jurassic Park existe una frase que resume el dilema bioético sobre los límites del conocimiento científico: “Sus científicos estaban tan preocupados por si podían hacerlo, que no se detuvieron a pensar si debían hacerlo”.

El avance científico no debe realizarse a cualquier costo ni guiado únicamente por los beneficios técnicos que puede producir. Por el contrario, debe estar acompañado por una reflexión ética que considere sus posibles consecuencias, los riesgos involucrados y el impacto sobre las personas, el ambiente y la sociedad.

A nivel de familias y escuelas, se debe fomentar el pensamiento crítico digital con el fin de analizar, cuestionar y verificar la información que se recibe a través de la IA, Internet y redes sociales.

IA sin complicaciones: un glosario para entender sus términos

1. Inteligencia Artificial (IA): conjunto de tecnologías capaces de realizar tareas que normalmente requieren capacidades humanas, como reconocer patrones, comprender lenguaje, tomar decisiones o resolver problemas.

2. IA generativa: tipo de inteligencia artificial capaz de crear contenido nuevo, como textos, imágenes, sonidos, videos o código.

3. Chatbot: programa diseñado para mantener una conversación con una persona mediante texto o voz.

4. Prompt: instrucción, pregunta o pedido que una persona le da a una IA para obtener una respuesta.

5. Algoritmo: conjunto de reglas o pasos que utiliza un sistema informático para resolver una tarea o alcanzar un resultado.

6. Aprendizaje automático o Machine Learning: rama de la IA en la que los sistemas aprenden patrones a partir de datos, en lugar de seguir únicamente reglas programadas de antemano.

7. Modelo de lenguaje: sistema de IA entrenado con grandes cantidades de texto para comprender y generar lenguaje. Los LLM (Large Language Models) son modelos de lenguaje de gran tamaño.

8. Alucinación: respuesta generada por una IA que parece correcta o convincente, pero contiene información falsa, inexistente o inventada.

9. Agente de IA: sistema capaz de recibir un objetivo, planificar acciones, utilizar herramientas y ejecutar varios pasos para intentar alcanzar ese objetivo.

10. Sesgo algorítmico: tendencia de un sistema de IA a producir resultados sistemáticamente parciales debido, por ejemplo, a los datos con los que fue entrenado o a la forma en que fue diseñado.

11. Deepfake: contenido falso generado o manipulado mediante IA, como una imagen, audio o video, que hace parecer que una persona dijo o hizo algo que en realidad nunca ocurrió.

12. Fake news: información falsa o engañosa presentada con apariencia de noticia verdadera, generalmente con el objetivo de confundir, manipular o llamar la atención.

13. Cognitive offloading o descarga cognitiva: proceso por el cual una persona delega parte de una tarea mental en una herramienta externa, como una calculadora, GPS o IA. Puede ser útil, pero un uso excesivo puede reducir la práctica de habilidades como recordar, escribir, buscar información o resolver problemas por cuenta propia.

14. Huella digital: conjunto de datos y rastros que una persona deja al utilizar Internet, redes sociales y herramientas de inteligencia artificial, como búsquedas, mensajes, archivos compartidos o información personal.

Recomendación para profundizar: Ciberbullying en la Pareja y Expareja

Formate con un enfoque riguroso de la mano de científicos

En Adolescencia: Nuevos abordajes con evidencia científica, los profesores te hablarán desde la experiencia y la evidencia producida en nuestros países, enseñándote estrategias aplicables a nuestras realidades educativas, clínicas y familiares.

Referencias bibliográficas:

• Chelli M, Descamps J, Lavoué V, Trojani C, Azar M, Deckert M, Raynier JL, Clowez G, Boileau P, & Ruetsch-Chelli C. (2024). Hallucination Rates and Reference Accuracy of ChatGPT and Bard for Systematic Reviews: Comparative Analysis. J Med Internet Res, 26, e53164. https://doi.org/10.2196/53164
• Dwivedi, Y. K., Kshetri, N., Hughes, L., et al. (2023). “So what if ChatGPT wrote it?” Multidisciplinary perspectives on opportunities, challenges and implications of generative conversational AI for research, practice and policy. International Journal of Information Management, 71, 102642. https://doi.org/10.1016/j.ijinfomgt.2023.102642
• Kasneci, E., Sessler, K., Küchemann, S., et al. (2023). ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, 103, 102274. https://doi.org/10.1016/j.lindif.2023.102274
• Nagata, J. M., Memon, Z., Huang, O., & Moreno, M. A. (2026). Adolescent health and generative AI—Risks and benefits. JAMA Pediatrics, 180(1), 7–8. https://doi.org/10.1001/jamapediatrics.2025.4502
• Naseer, A., Ahmad, N. R., & Chishti, M. A. (2025). Psychological impacts of AI dependence: Assessing the cognitive and emotional costs of intelligent systems in daily life. Review of Applied Management and Social Sciences, 8(1), 291-307.
• Tao, S., Lan, M., Wang, M., & Li, H. (2026). Potential risks of generative artificial intelligence integration into K-12 education: A scoping review. Computers and Education: Artificial Intelligence, 10, 100561. https://doi.org/10.1016/j.caeai.2026.100561
• UNICEF. (2025). Guidance on AI and children: Version 3.0. Recommendations for AI policies and systems that uphold child rights. UNICEF Innocenti.
• Zhang, P., & Tur, G. (2024). A systematic review of ChatGPT use in K-12 education. European Journal of Education, 59(2), e12599. https://doi.org/10.1111/ejed.12599

Cómo citar esta publicación: Resett, S. A. (2026). Inteligencia artificial: usos, riesgos y responsabilidad digital. Asociación Educar para el Desarrollo Humano. https://asociacioneducar.com/inteligencia-artificial-usos-riesgos-y-responsabilidad-digital/