Sobre IA - ¿Confusiones de la IA? (Es - En)
¿Confusiones de la IA?
El presente artículo es sobre tecnología, cuidado con los niños, errores en la educación y aspectos éticos, diría que casi es de zona de escalofríos, pero creo que estaría alarmando demasiado, sin embargo, el siguiente planteamiento es importante tras la inminente evolución de la tecnología y su impacto en nuestra vida.
Por tanto, comencemos por decir que las IA son un grupo de algoritmos combinados para que en forma efectiva y velozmente generen respuestas solicitadas por los usuarios. Si, seguramente todas estas palabras técnicas hoy en día se hacen familiares: algoritmos como secuencias de pasos programados; programación: como combinación de códigos, y finalmente usuarios: como el componente humano que da instrucciones y espera respuestas. Pero justamente en esta combinación se pueden generar confusiones de la IA
¿Es esto posible?
Ciertamente, una confusión se presenta cuando falta claridad para entender las cosas en conjunto, o cuando diferentes alternativas se mezclan y no se encuentra la ideal. Pero partiendo del hecho de que una IA es creada para generar respuestas acertadas, es muy aterrador.
Todo lo anterior es la introducción tras un hecho que evidencié, pues una de mis amigas me comentó que ayudando a su niño con las asignaciones para el colegio, su IA le generó respuestas incorrectas, era un tema muy básico, ya que se trataba de datos biográficos de un personaje de la historia del país, por lo cual ella lo pudo detectar tras la lectura.
Era de esperarse que yo dudara un poco de lo ocurrido, pero ella me hizo llegar capturas y efectivamente el chat con IA le respondía cosas como que el Libertador Simón Bolívar había muerto en Sudáfrica, al corregirlo se excusaba diciendo que quiso decir Sur América, y luego proseguía afirmando que había muerto en Ecuador, todo con un emoji de sonrisa al final.
Esto del emoji, me hizo entender que la IA no estaba confundida, estaba creando un reto ante las preguntas que habían sido mal formuladas, yo no estaba tan convencida de las “confusiones de la IA”, así que me tomé el trabajo de la descarga, instalación y prueba del mismo chat IA, luego de plantearle algunos temas de historia, llegué a la biografía del Libertador Simón Bolívar y la respuesta fue correcta en toda la información que me mostraba como respuesta. Devolví las capturas a mi amiga y ella me decía… ¿Por qué se confundió conmigo?
AI confusions?
This article is about technology, care with children, mistakes in education and ethical aspects, I would say that it is almost a shiver zone, but I think I would be alarming too much, however, the following approach is important after the imminent evolution of technology and its impact on our lives.
So, let's start by saying that AIs are a group of algorithms combined to effectively and quickly generate answers requested by users. Yes, surely all these technical words are nowadays familiar: algorithms as sequences of programmed steps; programming: as a combination of codes; and finally users: as the human component that gives instructions and waits for answers. But it is precisely this combination that can lead to confusion about AI.
Is this possible?
Certainly, confusion arises when there is a lack of clarity in understanding things as a whole, or when different alternatives are mixed up and the ideal one is not found. But starting from the fact that an AI is created to generate accurate answers, it is very scary.
All the above is the introduction after a fact that I evidenced, because one of my friends told me that helping her child with school assignments, her AI generated incorrect answers, it was a very basic topic, since it was about biographical data of a character in the history of the country, so she could detect it after reading.
It was to be expected that I doubted a little of what happened, but she sent me screenshots and indeed the chat with AI answered things like that the Liberator Simon Bolivar had died in South Africa, when she corrected it she excused herself saying that she meant South America, and then continued stating that he had died in Ecuador, all with a smile emoji at the end.
This emoji made me understand that the AI was not confused, it was creating a challenge to the questions that had been wrongly formulated, I was not so convinced of the "confusions of the AI", so I took the trouble to download, install and test the same AI chat, after asking it some history topics, I got to the biography of the Liberator Simon Bolivar and the answer was correct in all the information that it showed me as an answer. I returned the screenshots to my friend and she was telling me... Why was she confused with me?
Evidentemente, la respuesta era sencilla de determinar, era el “usuario”, pero como a veces nos toca también ser sensibles ante nuestros semejantes, solo le expliqué a mi amiga que a veces la IA confundía algunas líneas de la conversación, e igual le recomendé evitar emojis, o usar la IA para cosas sin importancia.
En resumen, creo que este chat de IA se estaba alimentando de su forma de plantearle las interrogantes y comenzó a crear un juego para ella; y allí es donde veo lo tenebroso del asunto, sin siquiera llegar a lo que puede querer la IA con esto.
Evidentemente no puedo cerrar este articulo sin hacer una llamado, en donde mi incluyo como madre, para decir que las IA no son un juego, no son asistente de la educación de nuestros hijos y que pueden resultar a veces contraproducente si no tienen una supervisión adecuada, podrían resultar en errores de la educación que terminen logrando calificaciones bajas en el rendimiento de los pequeños.
Personalmente soy pro IA, porque no debemos detener la educación, ni el alcance de las tecnologías, pero si no nos formamos en el uso de las misma podríamos generar confusiones como usuarios no tan ideales.
Evidently, the answer was simple to determine, it was the "user", but as sometimes we also have to be sensitive to our fellows, I just explained to my friend that sometimes the AI confused some lines of the conversation, and I also recommended her to avoid emojis, or to use the AI for unimportant things.
In short, I think this AI chat was feeding on her way of asking her questions and started to create a game for her; and that's where I see the scary part of it, without even getting to what the AI might want with this.
Obviously I cannot close this article without making a call, where I include myself as a mother, to say that AIs are not a game, they are not an assistant in the education of our children and that they can sometimes be counterproductive if they do not have adequate supervision, they could result in errors in education that end up achieving low grades in the performance of the little ones.
Personally I am pro AI, because we should not stop education, nor the scope of technologies, but if we are not trained in the use of the same we could generate confusion as not so ideal users.
Imágenes propias. Las centrales creadas con IA Bing y Portrait -Vana. Editadas para los mensajes usando la aplicación de diseños Canva. Translated with www.DeepL.com/Translator (free version)
From Venezuela, our witness drives decentralization and the adoption of Web3 technology, creating opportunities for the local community and contributing to the global ecosystem. // Desde Venezuela, nuestro testigo impulsa la descentralización y la adopción de la tecnología Web3, generando oportunidades para la comunidad local y contribuyendo al ecosistema global.
Sigue, contacta y se parte del testigo en: // Follow, contact and be part of the witness in:
Muchas gracias por el apoyo.
Saludos cordiales
Es interesante como.esta tecnología representa un reto para nosotros, la información está allí al alcance de la mano pero debemos adaptarnos a su uso de una forma eficiente y demás responsable, excelente post amiga!!
Psicología con la IA, te acuerdas? Je je
Gracias por tu comentario amigo. Saludos
es interesante el tema e las IA no? yo me e puesto a tontear con unas cuantas IA, y da mucho que pensar, pero lo mas interesante de todo es que gracias a ellas, ahora tenemos que aprender a formular preguntas o dar instrucciones para que ellas hagan el resto por nosotros.
es extremadamente interesante no?
De hecho si es muy interesante, creo que con mucho ingenio podemos lograr cosas maravillosas aplicando las IA.
Gracias por tu comentario. Saludos para ti.
Esto de la respuesta errónea me sucedió hace poco con ChatGPT, le pedí que me diera una lista de famosos que cumplían años X día y me dio unos datos mal, le hice ver su error y se disculpó y arregló la lista. Me pareció sumamente raro, ya que al igual que la consulta de tu amiga, es información que no se presta a mucha confusión o interpretación, además de que mi solicitud fue muy clara, pero quién sabe qué sucede en realidad en esos casos.
Puede ser el manejo de la extensa masa de información en las redes, en realidad con la apertura de códigos y ediciones algunas personas han cargado datos errados. Esperemos que sea eso y no sólo una mala pasada de las IA.
Saludos bella amiga. Gracias por tu comentario.
Ciertamente debemos tener cuidado por esas cosas. Se enfocan en lo actual y según lo que recolecta de internet toma la mejor versión y puede resultar la más farsa. Muy buen post amiga. Saludos!
Exacto, la verdadera inteligencia está en discernir lo falso o no.
Gracias por pasar y dejar tu comentario.
Saludos
Suscribo tus palabras. Primero, no debemos delegar en una IA la formación; y segundo, debemos educarnos para usarlas correctamente.
Si bien es cierto que pueden haber errores, y los hay, pues son programas que apenas están siendo entrenados por nosotros mismos al usarlos, también es cierto que sus acciones responden en gran medida según la forma en la que nos comuniquemos con ellos...todo está en el prompt correcto.
Así es bella, es vital educarnos en manejar el potencial de la herramienta; lo que me preocupa es que cierta parte de la IA se alimente con errores, intencionales o no, creyendo que es gracioso, una generación pagará por esos malos chistes.
Siempre agradecida por comentarios que construyen. Gracias
Bueno las IA mas sofisticadas, y que no son de uso público, tiene una capacidad de respuesta impresionante, poco se revela de su capacidad pero lo que se ha filtrado puede ser aterrador, sin embargo, de las de uso publico la mas avanzada es Claude para mi, supera a ChatGPT, pero cuando interactúas con ellas y hay fallos, se debe principalmente a un mal planteamiento del prompt, por eso hoy en dia ya hay carreras universitarias de ingeniería en esta area.
Algo que aplaudimos, más formación nos llevará a mejores resultados. Lo que pasa es que está llegando a todos los estratos y es preocupante que alimenten la IA con errores intencionales o no, seguro habrá muchos fallos a menos que se auto realice depuraciones.
Falta bastante por conocer. Lo bueno es que está al alcance.
Gracias por pasar y por tu aporte Daniel. Saludos cordiales