![\"El](\"https:\/\/i.blogs.es\/50ab79\/deepfak-papa-francisco\/1024_2000.jpeg\")
\n <\/p>\n\n \n <\/p>\n
Se llama Hany Farid<\/a> y es considerado como uno de los mayores expertos en v\u00eddeos falsos (deefakes) del mundo. Este experto forense digital era capaz de destapar por ejemplo v\u00eddeos manipulados por los gobiernos, pero ahora ha decidido abandonar Silicon Valley por una sencilla raz\u00f3n<\/a>: ya no es capaz de diferenciar los reales de los que se est\u00e1n generando con herramientas de IA. Y no nos extra\u00f1a<\/a>.<\/p>\n <\/p>\n Deepfakes indistinguibles de la realidad<\/strong>. En las \u00faltimas dos d\u00e9cadas Farid, de 60 a\u00f1os, se ha especializado en esa identificaci\u00f3n de v\u00eddeos falsos. Este catedr\u00e1tico de la Universidad de California en Berkeley ha confesado que los avances en IA generativa ha hecho que los m\u00e9todos tradicionales de detecci\u00f3n ya no sirvan de nada<\/a>.\u00a0Sus conclusiones confirman la sensaci\u00f3n que llevamos teniendo desde hace tiempo con este tipo de contenidos: la IA ha avanzado tanto que el problema ya no solo son los deepfakes: es que desconfiamos incluso de las fotos reales<\/a>.<\/p>\n <\/p>\n Diferenciar el contenido IA en Internet es cada vez m\u00e1s dif\u00edcil. La soluci\u00f3n pasa por algo similar a los filetes<\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n La reputaci\u00f3n de Farid le precede<\/strong>. Su padre trabaj\u00f3 durante 50 a\u00f1os como qu\u00edmico en Eastman Kodak, y Farid creci\u00f3 visitando a menudo la sala oscura, viendo c\u00f3mo las fotos se convert\u00edan en fotos al ir pasando por los distintos l\u00edquidos. Acab\u00f3 dise\u00f1ando<\/a> un sistema de \"huellas digitales\" que permiti\u00f3 detectar casos de pornograf\u00eda infantil escondida en internet. De hecho, su tecnolog\u00eda ha hecho que se denuncien 30 millones de casos de potencial abuso cada a\u00f1o, adem\u00e1s de llevar a cientos de arrestos y varios rescates.\u00a0<\/p>\n <\/p>\n Me rindo<\/strong>. Ante la avalancha de deepfakes perfectos generados con IA, Farid ha decidido abandonar su trabajo para refugiarse en una granja en Vermont. Su rendici\u00f3n es la \u00faltima demostraci\u00f3n de una cruda realidad: ya no podemos fiarnos de lo que vemos en redes<\/a>. Ahora se dedica a trabajar con la madera, y se ha apartado de las redes y la tecnolog\u00eda.<\/p>\n <\/p>\n El misil que cambi\u00f3 todo<\/strong>. El punto de inflexi\u00f3n que demuestra esta crisis de esa tarea forense digital ocurri\u00f3 tras la difusi\u00f3n viral de un v\u00eddeo en el que se mostraba el supuesto impacto de un misil estadounidense en una escuela de Ir\u00e1n. Farid dedic\u00f3 un d\u00eda entero a desglosar la secuencia fotograma a fotograma: analiz\u00f3 la geometr\u00eda de las sombras, la tasa de retraso del sonido de la explosi\u00f3n seg\u00fan las leyes de la f\u00edsica o la longitud en p\u00edxeles del proyectil.\u00a0<\/p>\n <\/p>\n Imposible decidir si es falso o no<\/strong>. No hall\u00f3 nada que pudiera probar que el v\u00eddeo era falso, y a otros especialistas les ocurri\u00f3 lo mismo. Ninguno pudo emitir un veredicto claro de autenticidad, y eso dej\u00f3 claro que la generaci\u00f3n de v\u00eddeo con IA es actualmente tan avanzada que un contenido real es indistinguible de un deepfake generado con esos modelos de \u00faltima generaci\u00f3n.<\/p>\n <\/p>\n Verificar es demasiado complicado<\/strong>. Hay otro problema aqu\u00ed: generar un v\u00eddeo falso, sea t\u00f3xico o no, con voces clonadas que est\u00e1n perfectamente sincronizadas<\/a> con el interlocutor es f\u00e1cil, r\u00e0pido y barato. Realizar una investigaci\u00f3n forense para tratar de detectar si el v\u00eddeo es real o no lleva horas de an\u00e1lisis computacional y directo por parte de los especialistas. Dado que los deepfakes logran viralizarse en apenas 20 minutos si tienen \u00e9xitos, los m\u00e9todos para contener esa difusi\u00f3n no sirven por una sencilla raz\u00f3n: llegan tarde.<\/p>\n <\/p>\n El cazador cazado<\/strong>. El propio investigador fue v\u00edctima de esta realidad: unos cibercriminales clonaron su n\u00famero de tel\u00e9fono y utilizaron una IA para generar su voz y as\u00ed suplantar su identidad. Con ese clon, llamaron a un contacto cercano que estaba involucrado en un caso judicial y lograron extraer informaci\u00f3n confidencial. Farid y su esposa, investigadora del sentido de la visi\u00f3n en Berkeley, tuvieron que crear una palabra de seguridad secreta<\/a> al inicio de cada llamada familiar para certificar que cada interlocutor era quien dec\u00eda ser. La situaci\u00f3n genera una paranoia y una desconfianza inquietantes.<\/p>\n <\/p>\n \"Me estoy quedando ciego\"<\/strong>. En el reportaje de The New York Times<\/a>, Farid explicaba que sus estudios demuestran que la mayor\u00eda de la gente ya no puede diferenciar una foto real de una creada digitalmente. \"Siento que me estoy quedando ciego\", indicaba mostrando su preocupaci\u00f3n por una IA que est\u00e1 logrando oscurecer la verdad y distorsionar la realidad<\/a>.\u00a0<\/p>\n <\/p>\n Marcas de agua como soluci\u00f3n<\/strong>. Frente a esa avalancha de im\u00e1genes y v\u00eddeos generados por IA indistinguibles de la realidad, una de las potenciales formas de mitigar el problema sigue ganando fuerza. Se trata, c\u00f3mo no, de las marcas de agua<\/a>, totalmente invisibles y que forman parte de los metadatos de esos archivos.\u00a0<\/p>\n <\/p>\n Dos iniciativas prometedoras<\/strong>. Hay varias iniciativas en este sentido, aunque la m\u00e1s destacable es la de la coalici\u00f3n C2PA<\/a> en la que est\u00e1n por ejemplo Google y OpenAI. Las herramientas de IA deber\u00edan a\u00f1adir esas marcas de agua identificando esos contenidos (\"Este v\u00eddeo ha sido generado con tal aplicaci\u00f3n de IA, esta imagen ha sido generada o editada con esta otra\"), pero de momento ese tipo de opci\u00f3n no se aplica por defecto. Otro proyecto importante en este sentido es SynthID<\/a>, la tecnolog\u00eda de Google para \"marcar\" esos contenidos como creados con IA.\u00a0<\/p>\n <\/p>\n Imagen | Bild<\/a> (CC0<\/a>)<\/p>\n En Xataka |\u00a0Qu\u00e9 fue de Technicolor: evoluci\u00f3n y muerte de la empresa que cambi\u00f3 el cine y fue arrollada por su ambici\u00f3n<\/a><\/p>\n <\/p>\n <\/p>\n – \u00a0Se llama Hany Farid y es considerado como uno de los mayores expertos en v\u00eddeos falsos (deefakes) del mundo. Este experto forense digital era capaz de destapar por ejemplo v\u00eddeos manipulados por los gobiernos, pero ahora ha decidido abandonar Silicon Valley por una sencilla raz\u00f3n: ya no es capaz de diferenciar los reales de los que se est\u00e1n generando con herramientas de IA. Y no nos extra\u00f1a.<\/p>\n Deepfakes indistinguibles de la realidad. En las \u00faltimas dos d\u00e9cadas Farid, de 60 a\u00f1os, se ha especializado en esa identificaci\u00f3n de v\u00eddeos falsos. Este catedr\u00e1tico de la Universidad de California en Berkeley ha confesado que los avances en IA generativa ha hecho que los m\u00e9todos tradicionales de detecci\u00f3n ya no sirvan de nada.\u00a0Sus conclusiones confirman la sensaci\u00f3n que llevamos teniendo desde hace tiempo con este tipo de contenidos: la IA ha avanzado tanto que el problema ya no solo son los deepfakes: es que desconfiamos incluso de las fotos reales.<\/p>\n En Xataka<\/p>\n Diferenciar el contenido IA en Internet es cada vez m\u00e1s dif\u00edcil. La soluci\u00f3n pasa por algo similar a los filetes<\/p>\n La reputaci\u00f3n de Farid le precede. Su padre trabaj\u00f3 durante 50 a\u00f1os como qu\u00edmico en Eastman Kodak, y Farid creci\u00f3 visitando a menudo la sala oscura, viendo c\u00f3mo las fotos se convert\u00edan en fotos al ir pasando por los distintos l\u00edquidos. Acab\u00f3 dise\u00f1ando un sistema de \"huellas digitales\" que permiti\u00f3 detectar casos de pornograf\u00eda infantil escondida en internet. De hecho, su tecnolog\u00eda ha hecho que se denuncien 30 millones de casos de potencial abuso cada a\u00f1o, adem\u00e1s de llevar a cientos de arrestos y varios rescates.\u00a0<\/p>\n Me rindo. Ante la avalancha de deepfakes perfectos generados con IA, Farid ha decidido abandonar su trabajo para refugiarse en una granja en Vermont. Su rendici\u00f3n es la \u00faltima demostraci\u00f3n de una cruda realidad: ya no podemos fiarnos de lo que vemos en redes. Ahora se dedica a trabajar con la madera, y se ha apartado de las redes y la tecnolog\u00eda.<\/p>\n El misil que cambi\u00f3 todo. El punto de inflexi\u00f3n que demuestra esta crisis de esa tarea forense digital ocurri\u00f3 tras la difusi\u00f3n viral de un v\u00eddeo en el que se mostraba el supuesto impacto de un misil estadounidense en una escuela de Ir\u00e1n. Farid dedic\u00f3 un d\u00eda entero a desglosar la secuencia fotograma a fotograma: analiz\u00f3 la geometr\u00eda de las sombras, la tasa de retraso del sonido de la explosi\u00f3n seg\u00fan las leyes de la f\u00edsica o la longitud en p\u00edxeles del proyectil.\u00a0<\/p>\n Imposible decidir si es falso o no. No hall\u00f3 nada que pudiera probar que el v\u00eddeo era falso, y a otros especialistas les ocurri\u00f3 lo mismo. Ninguno pudo emitir un veredicto claro de autenticidad, y eso dej\u00f3 claro que la generaci\u00f3n de v\u00eddeo con IA es actualmente tan avanzada que un contenido real es indistinguible de un deepfake generado con esos modelos de \u00faltima generaci\u00f3n.<\/p>\n Verificar es demasiado complicado. Hay otro problema aqu\u00ed: generar un v\u00eddeo falso, sea t\u00f3xico o no, con voces clonadas que est\u00e1n perfectamente sincronizadas con el interlocutor es f\u00e1cil, r\u00e0pido y barato. Realizar una investigaci\u00f3n forense para tratar de detectar si el v\u00eddeo es real o no lleva horas de an\u00e1lisis computacional y directo por parte de los especialistas. Dado que los deepfakes logran viralizarse en apenas 20 minutos si tienen \u00e9xitos, los m\u00e9todos para contener esa difusi\u00f3n no sirven por una sencilla raz\u00f3n: llegan tarde.<\/p>\n El cazador cazado. El propio investigador fue v\u00edctima de esta realidad: unos cibercriminales clonaron su n\u00famero de tel\u00e9fono y utilizaron una IA para generar su voz y as\u00ed suplantar su identidad. Con ese clon, llamaron a un contacto cercano que estaba involucrado en un caso judicial y lograron extraer informaci\u00f3n confidencial. Farid y su esposa, investigadora del sentido de la visi\u00f3n en Berkeley, tuvieron que crear una palabra de seguridad secreta al inicio de cada llamada familiar para certificar que cada interlocutor era quien dec\u00eda ser. La situaci\u00f3n genera una paranoia y una desconfianza inquietantes.<\/p>\n \"Me estoy quedando ciego\". En el reportaje de The New York Times, Farid explicaba que sus estudios demuestran que la mayor\u00eda de la gente ya no puede diferenciar una foto real de una creada digitalmente. \"Siento que me estoy quedando ciego\", indicaba mostrando su preocupaci\u00f3n por una IA que est\u00e1 logrando oscurecer la verdad y distorsionar la realidad.\u00a0<\/p>\n Marcas de agua como soluci\u00f3n. Frente a esa avalancha de im\u00e1genes y v\u00eddeos generados por IA indistinguibles de la realidad, una de las potenciales formas de mitigar el problema sigue ganando fuerza. Se trata, c\u00f3mo no, de las marcas de agua, totalmente invisibles y que forman parte de los metadatos de esos archivos.\u00a0<\/p>\n Dos iniciativas prometedoras. Hay varias iniciativas en este sentido, aunque la m\u00e1s destacable es la de la coalici\u00f3n C2PA en la que est\u00e1n por ejemplo Google y OpenAI. Las herramientas de IA deber\u00edan a\u00f1adir esas marcas de agua identificando esos contenidos (\"Este v\u00eddeo ha sido generado con tal aplicaci\u00f3n de IA, esta imagen ha sido generada o editada con esta otra\"), pero de momento ese tipo de opci\u00f3n no se aplica por defecto. Otro proyecto importante en este sentido es SynthID, la tecnolog\u00eda de Google para \"marcar\" esos contenidos como creados con IA.\u00a0<\/p>\n Imagen | Bild (CC0)<\/p>\n En Xataka |\u00a0Qu\u00e9 fue de Technicolor: evoluci\u00f3n y muerte de la empresa que cambi\u00f3 el cine y fue arrollada por su ambici\u00f3n<\/p>\n – La noticia<\/p>\n El mayor experto del mundo en identificar deepfakes tiene un gran problema. Ya no es capaz de identificarlos <\/p>\n fue publicada originalmente en<\/p>\n Xataka <\/p>\n por <\/p>\n Javier Pastor<\/p>\n .\u00a0\u00a0\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":" Se llama Hany Farid y es considerado como uno de los mayores expertos en v\u00eddeos falsos (deefakes) del mundo. Este experto forense digital era capaz de destapar por ejemplo v\u00eddeos manipulados por los gobiernos, pero ahora ha decidido abandonar Silicon Valley por una sencilla raz\u00f3n: ya no es capaz de diferenciar los reales de los […]<\/p>\n","protected":false},"author":1,"featured_media":49132,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"amp_status":"","footnotes":""},"categories":[6],"tags":[],"class_list":["post-49131","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-y-tecnologia"],"_links":{"self":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts\/49131","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=49131"}],"version-history":[{"count":0,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts\/49131\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/media\/49132"}],"wp:attachment":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=49131"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=49131"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=49131"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\n\n\n\n
\n ![\"Diferenciar](\"https:\/\/i.blogs.es\/7a7c9d\/monalisa\/375_142.jpeg\")
\n <\/a>\n <\/div>\n\n\n En Xataka<\/a>\n <\/div>\n\n\n\n<\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n
La noticia
\n
\n El mayor experto del mundo en identificar deepfakes tiene un gran problema. Ya no es capaz de identificarlos <\/em>
\n <\/a>
\n fue publicada originalmente en
\n
\n Xataka <\/strong>
\n <\/a>
\n por
\n
\n Javier Pastor
\n <\/a>
\n . <\/p>\n