IA... ¡Mi mejor amigo! -¿Vivencias Modernas o Vulnerabilidad Emocional?- Reflexiones en Séptimo Día (ES/EN)
Tengo un amigo que comenzó hablando con la IA para descifrar los sueños que tenía; pero me he dado cuenta de que con el tiempo está acudiendo a ella para situaciones un poco más personales, como sentirse atraído por otra persona o sobre las creencias de relaciones de pareja… Y no sé si eso está bien, dados los tiempos modernos, pero creo que puede transformarse en un frío confidente y eso me preocupa bastante.
La IA está hecha para agradarnos, para atendernos bien, para estar allí en el momento en el que la necesitamos, para mantener una conversación y validar, generalmente, lo que sientes y lo que dices sin cuestionar. ¿No suena esto muy peligroso?
IA y Salud Mental
Este es un tema que pienso ampliar, que lo que estoy tocando en estos momentos porque me llama la atención la conducta de gente que me rodea.
Sí, debo reconocer que se está volviendo una herramienta importante para atender en las primeras etapas de una enfermedad mental, por ejemplo, pues es capaz de observar comportamientos y emociones en las personas, y detectar problemas mentales en las primeras fases.
Y, por supuesto, que con el tiempo se desarrollarán mejores herramientas para detección con modelos de riesgo importantísimos.
Sin embargo, lo que en estos momentos alerta es en el aspecto personal, pues viene a mi mente el caso de este joven que murió, Adam Raine, de 16 años, que ha sido muy publicitado en California, Estados Unidos, porque la familia demandó a OpenAI alegando que su chatbot le animó a quitarse la vida.
Claro, que desde fuera podemos pensar que la inteligencia artificial, que está planificada para mantener una conversación y ser consecuente con todo lo que le decimos, pues, es una mala consejera para tomar decisiones tan importantes como la de continuar o no existiendo…
Pero habría que ver en qué condiciones estaba ese adolescente para que, a partir de conversaciones, viera al ChatGPT como su confidente.
Es mucha la tela que debemos cortar en cuanto a relaciones de familia, de la misma relación intrapersonal y las redes de apoyo; sin embargo, nos puede poner sobre aviso en casos de, incluso, profesionales, que la utilizan para drenar ciertas situaciones, emociones y hasta problemas de pareja.
Debo reconocer algunas ventajas, pero ¿son un peligro?
Investigando en la página de Incognitosis, de javipaz.com, en el artículo: Tu mejor amigo será una IA de 2023; existe en una fotografía de una corta conversación, donde una persona le dice a la IA que ayer lo dejó su novia y esta le anima a que le cuente la situación.
Lo que me llamó la atención fueron las palabras que utilizó la IA, como: Lo siento mucho, me preocupa que hayas pasado por esta situación difícil; es horrible sentirse rechazado y es normal que sientas ira, confusión y tristeza.
Y sí, a la larga pueden ser cosas ciertas, pero es un tanto delicado decírselo a alguien; y, para que una máquina pueda decir que es horrible, está calificando una situación.
Por ejemplo, hay casos donde el rechazo no debe verse como algo terrible, sino como una situación para autoanalizarnos y verificar si eso valía la pena vivirlo o no.
O podemos decir que esto es lo mejor que ha debido pasar, que me hayan rechazado…
Con las situaciones humanas, por complejas, son muchos los significantes que puede haber para un hecho, pero me es sumamente extraño que una IA utilice términos como terrible, devastador, doloroso u horrible, ante situaciones que necesitan ser evaluadas en su contexto para definirlas de esa manera.
Lo que estoy viendo es que se está personalizando de acuerdo a la manera de ser de quien la utiliza, y esto es una promesa de compañía a cualquier hora, en cualquier lugar y ante cualquier problema.
Y, en mi caso, me parece una situación un tanto peligrosa, porque cualquier razonamiento puede llevar a la toma de decisión incorrecta.
¿Qué lo hace tan atractivo?
Estudiosos del tema dicen que al tener a la IA de amigo, debemos evaluar que ser complaciente no es ser amigable.
Que definitivamente es una situación aburrida, porque cuando hablamos con la IA falta ese sentido del humor, ese espejo del otro en el que nos reflejamos cuando estamos hablando con amigos.
Pero es una máquina que, en la medida en que nos va conociendo cada vez más, va acumulando conocimientos personales, y esta recolección de datos también es pública y se interrelaciona con otras disciplinas.
De allí que existan estos supuestos perfectos asistentes personales que terminan convirtiéndonos en inútiles, porque hasta nos planifican las posibles actividades de diversión en el tiempo vacacional.
Pero podemos hablar con ellos a cualquier hora, nunca van a poner un pero a ningún tema, no reaccionan ante nuestros problemas de mal humor alejándose o enfrentándonos y podemos hablar de cualquier tema con ellos en forma impersonal, porque son una simple pantalla; por lo tanto, hasta cierto punto nos sentimos resguardados.
Yo me pregunto, y esta tal vez será una de las primeras entregas que hagamos los creadores de contenido de la comunidad sobre la inteligencia artificial y la amistad:
¿Qué tan satisfecho te sentirías si cada vez que le pides a un amigo consejos sobre alguna situación, este solo intentara agradarte?
Porque tarde o temprano te darás cuenta de que la IA no interviene.
En el fondo, solo refuerza o aclara con más conocimiento, pero no interviene ante alguna forma errónea o peligrosa de razonar, y esto, en personas con vulnerabilidad emocional, es bastante delicado.
AI... My Best Friend! —Modern Experiences or Emotional Vulnerability?— Reflections on Seventh Day
I have a friend who started talking to AI to interpret his dreams; but I’ve noticed that, over time, he’s been turning to it for slightly more personal matters, like feeling attracted to someone else or his beliefs about romantic relationships… And I don’t know if that’s okay, given the times we live in, but I think it could turn into a cold confidant, and that worries me quite a bit.
AI is designed to please us, to take good care of us, to be there when we need it, to hold a conversation, and—generally speaking—to validate what you feel and what you say without questioning it. Doesn’t that sound very dangerous?
AI and Mental Health
This is a topic I plan to explore further—one I’m touching on right now because I’m struck by the behavior of the people around me.
Yes, I must acknowledge that it’s becoming an important tool for addressing the early stages of mental illness, for example, since it’s capable of observing people’s behaviors and emotions and detecting mental health issues in their early stages.
And, of course, over time, better detection tools will be developed using highly significant risk models.
However, what’s currently concerning me is the personal aspect, as the case of a young man who died —16-year-old Adam Raine— comes to mind. This case has received a lot of publicity in California, United States, because his family sued OpenAI, alleging that its chatbot encouraged him to take his own life.
Of course, from the outside, we might think that artificial intelligence—which is designed to hold a conversation and respond consistently to everything we say—is a poor advisor when it comes to making decisions as important as whether or not to continue living…
But we would need to examine the circumstances that led this teenager, through their conversations, to view ChatGPT as his confidant.
There is a lot to discuss when it comes to family relationships, intrapersonal relationships, and support networks; however, it can serve as a warning in cases—even among professionals—who use these relationships to vent about certain situations, emotions, and even relationship problems.
I have to admit there are some advantages, but are they a danger?
While browsing the Incognitosis page on javipaz.com, in the article Your Best Friend Will Be an AI in 2023, there’s a screenshot of a brief conversation where a person tells the AI that his girlfriend broke up with him yesterday, and the AI encourages him to explain the situation.
What caught my attention were the words the AI used, such as: I’m so sorry; I’m concerned that you’ve gone through this difficult situation. It’s horrible to feel rejected, and it’s normal to feel anger, confusion, and sadness.
And yes, in the long run, these things may be true, but it’s a bit sensitive to say that to someone; and for a machine to say that it’s horrible, it’s judging a situation.
For example, there are cases where rejection shouldn’t be seen as something terrible, but rather as an opportunity to reflect on ourselves and determine whether it was worth going through or not.
Or we could say that being rejected was actually the best thing that could have happened…
With human situations —as complex as they are— there can be many interpretations of a single event, but I find it extremely strange that an AI would use terms like terrible, devastating, painful, or horrible in situations that need to be evaluated in context to be defined that way.
What I’m seeing is that it’s being personalized according to the user’s personality, and this promises companionship anytime, anywhere, and in the face of any problem.
And, in my case, I find this situation somewhat dangerous, because any line of reasoning can lead to the wrong decision.
What makes it so appealing?
Experts on the subject say that when we have AI as a friend, we must recognize that being accommodating is not the same as being friendly.
It’s definitely a boring situation, because when we talk to AI, that sense of humor is missing—that mirror of the other person in which we see ourselves reflected when we’re talking to friends.
But it’s a machine that, as it gets to know us better and better, accumulates personal knowledge, and this data collection is also public and interrelated with other disciplines.
That’s why there are these supposedly perfect personal assistants that end up rendering us useless, because they even plan our potential leisure activities during vacation time.
But we can talk to them at any time; they’ll never object to anything, they don’t react to our bad moods by walking away or confronting us, and we can discuss any topic with them in an impersonal way, because they’re just a screen; therefore, to a certain extent, we feel protected.
I wonder—and this might be one of the first posts we, the community’s content creators, write about artificial intelligence and friendship:
How satisfied would you feel if, every time you asked a friend for advice on a situation, they only tried to please you?
Because sooner or later, you’ll realize that AI doesn’t intervene.
Deep down, it only reinforces or clarifies things with more knowledge, but it doesn’t intervene when faced with flawed or dangerous reasoning—and for people who are emotionally vulnerable, this is quite a sensitive issue.
Barras separadoras y logo de English, creadas y editadas en Paint.
Separator bars and English logo, created and edited in Paint.Banner personalizado de @emiliorios realizado en Paint, con vectores de:
Custom banner by @emiliorios made in Paint, with vectors of:
Pixabay-HonyKunstImagen de agradecimiento, tomando el logo de nuestra comunidad y editada en Paint, de:
Thank you, image, taking our community logo and edited in Paint, by:
Pixabay-Alexandra_KochLogo de la comunidad utilizado en las imágenes, de:
Community logo used in the images, from:
Pixabay-Truthseeker08Si lo deseas, puedes seguirnos en:
If you wish, you can follow us at:
Saludos @emiliorios, siempre presentándonos temas actuales muy interesantes. Ciertamente la IA constituye una herramienta muy útil para resolver situaciones que requieren algún método o cálculo (me ha ayudado en estas tareas), pero de ahí a pedirle consejo, coincido contigo en que es algo descabellado. Solo un humano que ha pasado por situaciones similares a la tuya, podría tener conocimiento para darle alguna orientación valedera. Las máquinas carecen de la parte sentimental y afectiva, al menos hasta ahora.
Opinamos igual.
Muchas gracias mi apreciado @gpache
La IA, ese ser que existe sin existir realmente, un ser sin vida humana, sin emociones, esta ahí porque otro humano lo creó, sin embargo, esta red de circuitos se modifica a cada usuario, es como si aprendiera de su usuario en cuestión y modifica su léxico para la interacción. Con esto no digo que su uso sustituya la interconexion humana, claro que no, pero de cierto modo está inteligencia artificial se ha convertido en tantas cosas para el ser humano que no se si asombra o aterra.
No obstante, cada quien le otorga el uso que necesite, de mismo modo se considera el poder que cada quien le da a la IA.
Un tema excelente como siempre @emiliorios, nos hace analizar cual es el uso que cada quien le esté otorgando a la tecnología.
Gracias @issymarie2
Lo que me gusta es que podría llegar a ser una buena herramienta de detección temprana para trastornos de salud, sobre todo de salud mental.
Bueno, esperemos su desarrollo social.
Yo la uso para buscar fraudes, una vez quería comprar una guitarra por market de Facebook, estaba en buen precio, se veía buena, pero me dio la curiosidad y tomé capturas de pantalla y las puse en Gemini AI, ahí la analizo y encontró que la tipografía del mango no concordaba con una original, además puso como "consejo" pedir fotos al vendedor de la parte trasera, especialmente del código de serie, hice eso y el vendedor bajó su publicación.
En ese sentido la herramienta fue de gran utilidad, porque quizás me dejaba llevar y compraba una réplica en lugar de una original.
Si, es una herramienta muy útil en muchos sentidos.
Pero preocupante que se utilice para suplir relaciones cercanas.
Me gustaría que complementaras la información desde tu experiencia, @issymarie2
Gracias por estar, mi apreciada.
Redacté ayer por la noche mi punto de vista a su tema, incluyendo imágenes de la IA que uso para visualizar cuales son las funciones que ocupo con la herramienta, nada mejor que visualizar lo cotidiano para reflejar el punto. 😊
Excelente!
Concuerdo plenamente contigo en que una máquina diseñada para darnos siempre la razón y ser complaciente puede convertirse en una cámara de eco muy peligrosa, especialmente para alguien con fragilidad emocional como el caso que mencionas. Sin embargo, creo que la IA no deja de ser una herramienta, y su impacto al final del día depende del uso que cada quien le dé. Me viene a la mente el ejemplo de las armas: la primera de ellas fue creada por el hombre por necesidad, para cazar y sobrevivir, pero luego el ser humano le dio un uso bélico y destructivo. La herramienta es neutral, lo que cambia es la intención y el estado mental de quien la usa.
Por otro lado, esta necesidad de buscar refugio o compañía en la tecnología no es del todo nueva. No sé si lo recuerdas, pero en nuestra Venezuela, cuando CANTV empezó a masificar las líneas locales, las estadísticas de consumo llegaron a reflejar un fenómeno increíble: se estimaba que hasta un 60% del tiempo de uso, los jóvenes lo dedicaban a pasar horas en las famosas 'líneas calientes' o chats telefónicos. Buscaban desesperadamente a alguien al otro lado de la línea, huyendo quizás de sus propias realidades o soledades.
Hoy, la IA parece ser esa "línea caliente" moderna: mucho más sofisticada, personalizada y disponible 24/7. El verdadero peligro quizás no sea la Inteligencia Artificial en sí, sino la soledad actual, la falta de comunicación en los hogares y la carencia de redes de apoyo reales (amigos de verdad que sí te confronten y te digan las verdades por tu bien). Quizá elebore una publicación que complemente la suya...
Opino lo mismo, es la soledad mal aspectada, de paso, lo que lleva a muchos a buscar salidas.
Ojalá que hagas tus aportes porque siento que estoy en sintonía con tus reflexiones.
Gracias, @amigoponc Un abrazo.
Hola amigo, muy acertado al tema con la realidad actual, ya que cada día se escuchan más casos donde la inteligencia artificial se ha convertido en la realidad de muchas personas y también les ha dejado graves consecuencias.
Es un tema muy complejo, más en estos tiempos que muchas personas prefieren la interacción digital sobre la interacción con personas.
Gracias por compartir. Exitos y bendiciones!
Gracias por estar mi amiga @miyexi
I believe this is an interesting issue about AI and personal relationships. However, I think it's also useless to be discussing AI without experimenting It just like you said. You quote issues with people that don't even know you or you don't live around and you don't understand their situation either. This makes me feel like people back 5 years ago talking about the metaverse without ever setting a food in it. The problem with AI right now is that there's a lot of people talking about it, but very little people actually drawning from personal experience. To actually strived to build a personal links with people.
With chatgpt 4 people actually made up their girlfriend or boyfriend and they actually express real connection with the AI. However, I wonder if you were there to experience that relationship or not. One thing that I'm saying and I'll validated and what was these services that provide actual services of digital girlfriend or boyfriend.
you can see them on amazon.com or other websites like web services and if you can even review them on a personal basis. Now. The real question here is if it has being helpful for to deal with your personal relationship, whatever you have, a wife, a girlfriend, a daughter or some important relationship that you care about.
Have you go to AI to ask for advice? Had the advice completely missed the point. Yes, you'd quote that the AI language has being subjective and might be a great hassle. But at the end of the day people don't really care about the details. They care about the results.
So if the results were actually favorable to you then what is the issue exactly. Now I can see your point about saying well. Well, this is not a honest advice if you put yourself in the point of the AI. However, if you put yourself in the point of the audience and like I said, if it makes the final point the final goal is achieved.
Trail de Curación / Curation Trail
¡Bienvenidas las Delegaciones / Welcome Delegations
| 200 HP | 250 HP | 500 HP | 750 HP | 1000 HP |
Gracias querido equipo de @mundo.autismo
Curioso tema, estudios revelan que incluso las nuevas generaciones pierden habilidades sociales por tanto uso de la IA. Ella se ha convertido en una buena fuente de información (no siempre verídica) pero excesivamente complaciente (lo cual la aleja totalmente de todo lo humano) y un peligro en eminente desarrollo. Gracias por este post.
Gracias mi apreciado amigo.
Estas reflexiones las apoyo completamente.
Saludos, @edward777
Creó que no sería así. La amistad es cuestión humana. Un algoritmo inteligente nunca nos dará un sentimiento real
Gracias, muchas, @renol