{"id":62968,"date":"2026-07-06T12:00:54","date_gmt":"2026-07-06T16:00:54","guid":{"rendered":"https:\/\/ermdigital.com\/?p=62968"},"modified":"2026-07-06T12:00:54","modified_gmt":"2026-07-06T16:00:54","slug":"china-acaba-de-regular-algo-que-realmente-importa-que-la-ia-acabe-siendo-nuestra-amiga-o-nuestra-novia","status":"publish","type":"post","link":"https:\/\/ermdigital.com\/?p=62968","title":{"rendered":"China acaba de regular algo que realmente importa: que la IA acabe siendo nuestra amiga o nuestra novia"},"content":{"rendered":"

\n \"China\n <\/p>\n

China ha decidido poner l\u00edmites a un tipo muy concreto de IA: aquella dise\u00f1ada para parecer una persona<\/a>. Doubao (ByteDance) y Qwen (Alibaba) han anunciado<\/a> que desactivar\u00e1n sus agentes de IA personalizados antes de que la normativa entre en vigor de forma inminente. Tencent ya lo hab\u00eda hecho tambi\u00e9n con su modelo Yuanbao, pero detr\u00e1s de todos estos cierres hay una idea mucho m\u00e1s profunda.<\/p>\n

<\/p>\n

El apag\u00f3n de la IA antropom\u00f3rifica ya tiene fecha<\/strong>. Doubao ya avis\u00f3 a sus usuarios de que sus agentes de IA personalizados dejar\u00e1n de funcionar el pr\u00f3ximo 15 de julio por \"ajustes de producto\" y que tres meses despu\u00e9s tampoco podr\u00e1n acceder a las conversaciones almacenadas<\/a> con dichos chatbots. Con Qwen la cosa ser\u00e1 a\u00fan m\u00e1s r\u00e1pida: los agentes desaparecer\u00e1n el pr\u00f3ximo 10 de julio, y el resto de funciones lo har\u00e1n cinco d\u00edas despu\u00e9s. Estas medidas se toman ante la entrada en vigor de las nuevas Medidas Provisionales para la Administraci\u00f3n de Servicios de Interacci\u00f3n Antropom\u00f3rfica con IA, publicadas recientemente<\/a> por el gobierno chino.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"Millones
\n <\/a>\n <\/div>\n
\n
\n En Xataka<\/a>\n <\/div>\n

Millones de adolescentes han convertido a la IA en su psic\u00f3logo de cabecera. Es un reto sin precedentes para la medicina <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Chatbots conversacionales, s\u00ed…<\/strong> Lo interesante de la normativa es que no regula la IA generativa en general. Deja fuera los asistentes para trabajar, estudiar, investigar o atender al cliente. Lo que regula son los sistemas que \"simulan rasgos de personalidad, patrones de pensamiento y estilos de comunicaci\u00f3n humanos<\/a> para proporcionar una interacci\u00f3n emocional sostenida\". El problema por tanto no es que la IA pueda ser m\u00e1s o menos potente, sino que llegue a simular el comportamiento de una persona.<\/p>\n

<\/p>\n

…chatbots de compa\u00f1\u00eda no<\/strong>. Las funciones que desaparecen de estas plataformas son las que permit\u00edan convertir a un chatbot generalista en un personaje de ficci\u00f3n, un amigo o incluso un compa\u00f1ero sentimental<\/a>. Dicha personalizaci\u00f3n confer\u00eda a esos agentes de IA una personalidad fija, una memoria y un estilo de conversaci\u00f3n caracter\u00edsticos que reforzaba la interacci\u00f3n con \u00e9l. No eran por tanto herramientas para sustituir al buscador de turno, sino sistemas dise\u00f1ados para atrapar al usuario en una relaci\u00f3n y una conversaci\u00f3n cada vez m\u00e1s personal e \u00edntima.<\/p>\n

<\/p>\n

Cuidado con la dependencia emocional<\/strong>. Aqu\u00ed la regulaci\u00f3n china no trata de identificar riesgos de peligrosidad como los que se debat\u00edan tradicionalmente por ejemplo con la regulaci\u00f3n de la Uni\u00f3n Europea. En lugar de eso lo que vigila son interacciones en las que hay una dependencia emocional<\/a>, una potencial adicci\u00f3n e incluso una manipulaci\u00f3n por parte de estos sistemas. De hecho se proh\u00edbe que estos sistemas fomenten v\u00ednculos emocionales que podr\u00edan llevar a decisiones irracionales. Todo ello se frena con la normativa para evitar el potencial deterioro de las relaciones personales.\u00a0<\/p>\n

<\/p>\n

La IA debe autoanalizarse<\/strong>. Seg\u00fan la regulaci\u00f3n, la IA debe intervenir cuando detecte ese tipo de situaciones. Si un usuario muestra emociones demasiado extremas hacia estos chatbots o si se percibe que puede haber riesgos para su integridad, la IA debe animarle a buscar ayuda o incluso activar ciertos protocolos de emergencia. Tambi\u00e9n debe avisar si ve un uso excesivo y recordarle al usuario que descanse tras dos horas de conversaci\u00f3n continua. En cierto sentido esas normas recuerdan a los mecanismo de \"bienestar digital\" que se han impuesto en las apps m\u00f3viles que tratan de limitar el uso de redes sociales.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \""Por
\n <\/a>\n <\/div>\n
\n
\n En Xataka<\/a>\n <\/div>\n

\"Por pat\u00e9tico que suene, ChatGPT es mi \u00fanico amigo\": cada vez m\u00e1s personas confiesan tener a una IA como amistad<\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Protecci\u00f3n para personas vulnerables<\/strong>. Las medidas prestan especial atenci\u00f3n a usuarios menores de edad<\/a> y tambi\u00e9n a personas mayores. Por ejemplo, se proh\u00edbe que este tipo de chatbots puedan ofrecer relaciones virtuales \u00edntimas, ocmo parejas o familiares artificiales, y exigen consentimiento paterno. Tambi\u00e9n hay obligaci\u00f3n de toma de precauciones cuando los usuarios son personas mayores, ya que este colectivo est\u00e1 especialmente expuesto a la soledad y a una posible dependencia emocional<\/a>.<\/p>\n

<\/p>\n

La IA debe quedarse en eso: ser una IA<\/strong>. Aunque ha habido avances en el impacto psicol\u00f3gico de estos modelos en su relaci\u00f3n con personas, esta es probablemente la primera gran regulaci\u00f3n que no intenta controlar lo potentes que son los modelos de IA, sino lo capaces que son para establecer relaciones personales con los usuarios<\/a>. Esta discusi\u00f3n probablemente terminar\u00e1 llegando a Europa y EEUU, y supone una piedra de toque para una tecnolog\u00eda que ciertamente lleva tiempo infiltr\u00e1ndose en el terreno personal.<\/p>\n

<\/p>\n

Imagen | Andy Kelly<\/a><\/p>\n

En Xataka |\u00a0Contar qu\u00e9 te preocupa a la IA era solo el primer paso: ya hay bots que se hacen pasar por psiquiatras colegiados<\/a><\/p>\n

–
La noticia
\n
\n China acaba de regular algo que realmente importa: que la IA acabe siendo nuestra amiga o nuestra novia <\/em>
\n <\/a>
\n fue publicada originalmente en
\n
\n Xataka <\/strong>
\n <\/a>
\n por
\n
\n Javier Pastor
\n <\/a>
\n . <\/p>\n

\u00a0China ha decidido poner l\u00edmites a un tipo muy concreto de IA: aquella dise\u00f1ada para parecer una persona. Doubao (ByteDance) y Qwen (Alibaba) han anunciado que desactivar\u00e1n sus agentes de IA personalizados antes de que la normativa entre en vigor de forma inminente. Tencent ya lo hab\u00eda hecho tambi\u00e9n con su modelo Yuanbao, pero detr\u00e1s de todos estos cierres hay una idea mucho m\u00e1s profunda.<\/p>\n

El apag\u00f3n de la IA antropom\u00f3rifica ya tiene fecha. Doubao ya avis\u00f3 a sus usuarios de que sus agentes de IA personalizados dejar\u00e1n de funcionar el pr\u00f3ximo 15 de julio por \"ajustes de producto\" y que tres meses despu\u00e9s tampoco podr\u00e1n acceder a las conversaciones almacenadas con dichos chatbots. Con Qwen la cosa ser\u00e1 a\u00fan m\u00e1s r\u00e1pida: los agentes desaparecer\u00e1n el pr\u00f3ximo 10 de julio, y el resto de funciones lo har\u00e1n cinco d\u00edas despu\u00e9s. Estas medidas se toman ante la entrada en vigor de las nuevas Medidas Provisionales para la Administraci\u00f3n de Servicios de Interacci\u00f3n Antropom\u00f3rfica con IA, publicadas recientemente por el gobierno chino.<\/p>\n

En Xataka<\/p>\n

Millones de adolescentes han convertido a la IA en su psic\u00f3logo de cabecera. Es un reto sin precedentes para la medicina <\/p>\n

Chatbots conversacionales, s\u00ed… Lo interesante de la normativa es que no regula la IA generativa en general. Deja fuera los asistentes para trabajar, estudiar, investigar o atender al cliente. Lo que regula son los sistemas que \"simulan rasgos de personalidad, patrones de pensamiento y estilos de comunicaci\u00f3n humanos para proporcionar una interacci\u00f3n emocional sostenida\". El problema por tanto no es que la IA pueda ser m\u00e1s o menos potente, sino que llegue a simular el comportamiento de una persona.<\/p>\n

…chatbots de compa\u00f1\u00eda no. Las funciones que desaparecen de estas plataformas son las que permit\u00edan convertir a un chatbot generalista en un personaje de ficci\u00f3n, un amigo o incluso un compa\u00f1ero sentimental. Dicha personalizaci\u00f3n confer\u00eda a esos agentes de IA una personalidad fija, una memoria y un estilo de conversaci\u00f3n caracter\u00edsticos que reforzaba la interacci\u00f3n con \u00e9l. No eran por tanto herramientas para sustituir al buscador de turno, sino sistemas dise\u00f1ados para atrapar al usuario en una relaci\u00f3n y una conversaci\u00f3n cada vez m\u00e1s personal e \u00edntima.<\/p>\n

Cuidado con la dependencia emocional. Aqu\u00ed la regulaci\u00f3n china no trata de identificar riesgos de peligrosidad como los que se debat\u00edan tradicionalmente por ejemplo con la regulaci\u00f3n de la Uni\u00f3n Europea. En lugar de eso lo que vigila son interacciones en las que hay una dependencia emocional, una potencial adicci\u00f3n e incluso una manipulaci\u00f3n por parte de estos sistemas. De hecho se proh\u00edbe que estos sistemas fomenten v\u00ednculos emocionales que podr\u00edan llevar a decisiones irracionales. Todo ello se frena con la normativa para evitar el potencial deterioro de las relaciones personales.\u00a0<\/p>\n

La IA debe autoanalizarse. Seg\u00fan la regulaci\u00f3n, la IA debe intervenir cuando detecte ese tipo de situaciones. Si un usuario muestra emociones demasiado extremas hacia estos chatbots o si se percibe que puede haber riesgos para su integridad, la IA debe animarle a buscar ayuda o incluso activar ciertos protocolos de emergencia. Tambi\u00e9n debe avisar si ve un uso excesivo y recordarle al usuario que descanse tras dos horas de conversaci\u00f3n continua. En cierto sentido esas normas recuerdan a los mecanismo de \"bienestar digital\" que se han impuesto en las apps m\u00f3viles que tratan de limitar el uso de redes sociales.<\/p>\n

En Xataka<\/p>\n

\"Por pat\u00e9tico que suene, ChatGPT es mi \u00fanico amigo\": cada vez m\u00e1s personas confiesan tener a una IA como amistad<\/p>\n

Protecci\u00f3n para personas vulnerables. Las medidas prestan especial atenci\u00f3n a usuarios menores de edad y tambi\u00e9n a personas mayores. Por ejemplo, se proh\u00edbe que este tipo de chatbots puedan ofrecer relaciones virtuales \u00edntimas, ocmo parejas o familiares artificiales, y exigen consentimiento paterno. Tambi\u00e9n hay obligaci\u00f3n de toma de precauciones cuando los usuarios son personas mayores, ya que este colectivo est\u00e1 especialmente expuesto a la soledad y a una posible dependencia emocional.<\/p>\n

La IA debe quedarse en eso: ser una IA. Aunque ha habido avances en el impacto psicol\u00f3gico de estos modelos en su relaci\u00f3n con personas, esta es probablemente la primera gran regulaci\u00f3n que no intenta controlar lo potentes que son los modelos de IA, sino lo capaces que son para establecer relaciones personales con los usuarios. Esta discusi\u00f3n probablemente terminar\u00e1 llegando a Europa y EEUU, y supone una piedra de toque para una tecnolog\u00eda que ciertamente lleva tiempo infiltr\u00e1ndose en el terreno personal.<\/p>\n

Imagen | Andy Kelly<\/p>\n

En Xataka |\u00a0Contar qu\u00e9 te preocupa a la IA era solo el primer paso: ya hay bots que se hacen pasar por psiquiatras colegiados<\/p>\n

– La noticia<\/p>\n

China acaba de regular algo que realmente importa: que la IA acabe siendo nuestra amiga o nuestra novia <\/p>\n

fue publicada originalmente en<\/p>\n

Xataka <\/p>\n

por <\/p>\n

Javier Pastor<\/p>\n

.\u00a0\u00a0\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"

China ha decidido poner l\u00edmites a un tipo muy concreto de IA: aquella dise\u00f1ada para parecer una persona. Doubao (ByteDance) y Qwen (Alibaba) han anunciado que desactivar\u00e1n sus agentes de IA personalizados antes de que la normativa entre en vigor de forma inminente. Tencent ya lo hab\u00eda hecho tambi\u00e9n con su modelo Yuanbao, pero detr\u00e1s […]<\/p>\n","protected":false},"author":1,"featured_media":62969,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"amp_status":"","footnotes":""},"categories":[6],"tags":[],"class_list":["post-62968","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-y-tecnologia"],"_links":{"self":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts\/62968","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=62968"}],"version-history":[{"count":0,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts\/62968\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/media\/62969"}],"wp:attachment":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=62968"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=62968"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=62968"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}