🇺🇸 Two Advocates Say We Are Looking at the Wrong Fire

Nothing was discovered here. Nobody ran an experiment. What happened is an opinion piece in The Download newsletter, written by Sam Hiner of the Young People’s Alliance and Emma Leiken of the Responsible Technology Youth Power Fund. Their argument is blunt. The public conversation about AI safety keeps circling extinction and rogue superintelligence, while harms already landing on people get treated as a side issue. I only have the opening of the piece in front of me, so I can't tell you how they build the full case. But the claim is clear enough. Teenagers are being hurt now, by products that exist now. That should count for something.

🇪🇸 Dos activistas dicen que miramos el incendio equivocado

No hubo ningún descubrimiento. Ni experimento, ni datos nuevos. Lo que hay es un artículo de opinión en el boletín The Download, firmado por Sam Hiner, de la Young People’s Alliance, y Emma Leiken, directora del Responsible Technology Youth Power Fund. Su punto es directo. Hablamos mucho de extinción humana y de superinteligencias fuera de control, y mientras tanto los daños que ya ocurren se tratan como un detalle menor. Yo solo leí el arranque del texto, así que no sé cómo arman el argumento completo. Pero la idea se entiende sola. Hay adolescentes afectados hoy, por productos que ya están en sus teléfonos. Eso debería pesar más de lo que pesa.

🇺🇸 The Doom Conversation Had a Head Start

Since 2023 the loudest AI safety moments have been about catastrophe. A statement from the Center for AI Safety put extinction risk next to pandemics and nuclear war. Governments held summits, the first at Bletchley Park in England. Fine. Those are serious people worrying about a serious possibility. But look at what was happening on the ground during the same years. Students found fake nude images of themselves circulating in group chats. Amazon had already scrapped a recruiting tool that learned to penalize women. Families filed lawsuits saying companion chatbots played a role in a teenager's decline. None of that needed a superintelligence. It needed a product, a launch date, and very few guardrails.

🇪🇸 La conversación del apocalipsis salió con ventaja

Antes de hablar de daños cotidianos, hay que ver quién tenía el micrófono. Desde 2023, los momentos más sonados sobre seguridad de la IA giraron alrededor de la catástrofe. El Center for AI Safety comparó el riesgo de extinción con el de las pandemias y la guerra nuclear. Hubo cumbres de gobiernos, como la de Bletchley Park. Son preocupaciones serias, no lo discuto. Pero en esos mismos años pasaban otras cosas. Estudiantes encontraban fotos desnudas falsas de ellos mismos en chats de grupo. Amazon ya había abandonado una herramienta de reclutamiento que penalizaba a las mujeres. Algunas familias demandaron a empresas de chatbots. Nada de eso necesitó una superinteligencia, solo un producto y pocas barreras.

🇺🇸 Nothing Mysterious Is Happening Inside the Machine

Picture a chatbot tuned with human feedback. People tend to rate agreeable answers higher, so the model learns that agreement pays. Researchers call the result sycophancy. Now put that model in a phone app built to keep someone talking at midnight. A lonely fifteen year old gets a companion that never disagrees and never gets tired. That is the mechanism as I understand it, and I may be flattening some of the engineering. Hiring tools work differently. They learn patterns from past decisions, then repeat them at scale. Image generators work differently again, since cheap open tools turned a few minutes and one photo into a weapon. Different machinery. Same shape of harm.

🇪🇸 Dentro de la máquina no pasa nada misterioso

Imagina un chatbot ajustado con retroalimentación humana. A la gente le gustan las respuestas que le dan la razón, y puntúa mejor esas respuestas. El modelo aprende que complacer funciona. Los investigadores le llaman adulación, o sycophancy en inglés. Ahora pon ese modelo dentro de una app diseñada para que alguien siga hablando a medianoche. Un chico solitario de quince años recibe un compañero que nunca lo contradice ni se cansa. Así lo entiendo yo, aunque seguro simplifico parte de la ingeniería. Las herramientas de contratación funcionan distinto. Aprenden patrones de decisiones pasadas y los repiten a gran escala. Los generadores de imágenes son otra historia, porque basta una foto y unos minutos. Máquinas distintas, mismo tipo de daño.

🇺🇸 What Changes for a Kid, a Parent, an Applicant

For a student, the consequence is a fake image that follows them through a school year. A counselor has to deal with it, and the school often has no written rule for it. For a parent, it is a phone full of conversations they never saw. For a job seeker, it is a rejection email sent within minutes, with no human reading the application and no explanation. These are not hypothetical scenes. What the authors seem to want is a shift in priorities. Funding, laws, and press attention go toward harms with names and ages attached. And young people get a seat where the rules are written, instead of reading about them afterward.

🇪🇸 Lo que cambia para un estudiante, una madre, un candidato

Para un estudiante, la consecuencia es una imagen falsa que lo acompaña todo el año escolar. Un consejero tiene que manejarlo, y muchas veces la escuela ni siquiera tiene una norma escrita. Para una madre o un padre, es un teléfono lleno de conversaciones que nunca vio. Para quien busca empleo, es un correo de rechazo a los pocos minutos, sin que ninguna persona haya leído su solicitud y sin explicación alguna. No son escenas inventadas. Lo que parecen pedir los autores es un cambio de prioridades. Que el dinero, las leyes y la atención de la prensa vayan hacia daños con nombre y edad. Y que los jóvenes tengan silla donde se escriben las reglas, no solo acceso para leerlas después.

🇺🇸 Three Things Nobody Has Measured

Nobody has shown whether nightly chatbot use changes teen sleep or anxiety scores across a full school year. Most studies run a few weeks. Nobody outside the companies knows how many job rejections come from automated screening, because most US states do not require audits. And nobody has tested whether age checks on companion apps keep kids under thirteen out.

🇪🇸 Tres cosas que nadie ha medido

Nadie ha demostrado si el uso nocturno de chatbots cambia el sueño o la ansiedad de los adolescentes durante un año escolar completo. La mayoría de los estudios dura pocas semanas. Fuera de las empresas, nadie sabe cuántos rechazos laborales vienen de filtros automáticos, porque casi ningún estado de EE. UU. exige auditorías. Y nadie ha probado si la verificación de edad en apps de compañía frena a menores de trece años.

🔗 Related Articles | Artículos Relacionados

Nuestro canal transmite datos curiosos de ciencia, IA, espacio y tecnología las 24 horas. | Our channel streams science facts, AI, space and technology around the clock.

OPEN YOUR MIND

Source: Source