El metaverso de Facebook puede pasarse por alto con falsificaciones profundas y otra desinformación si estas organizaciones sin fines de lucro no tienen éxito

El metaverso de Facebook puede pasarse por alto con falsificaciones profundas y otra desinformación si estas organizaciones sin fines de lucro no tienen éxito

El científico de realidad virtual de Mark Zuckerberg, simplemente apodado Meta, ha luchado con una serie de problemas, desde problemas tecnológicos hasta dificultades para retener a los empleados. Esto no significa que pronto no será utilizado por miles de millones de personas. Meta encontró un nuevo problema. ¿El entorno virtual donde los usuarios pueden crear sus propios diseños de rostros es el mismo para todos? ¿O las empresas y los políticos tendrán más flexibilidad para cambiar su apariencia?

Rand Waltzman es científico de información jefe en el Instituto RAND sin fines de lucro. Y advirtió la semana pasada que las lecciones que Facebook aprendió al personalizar su fuente de noticias y permitir información altamente específica podrían usarse para aumentar su tasa de identificación. En esta definición, los altavoces se pueden personalizar para que suenen más confiables para cada miembro de la audiencia. Mediante el uso de tecnología deepfake que crea videos realistas pero falsos, se puede modificar un altavoz para que contenga el 40 % de las funciones de los miembros de la audiencia sin que esa audiencia lo sepa.

Meta ya ha tomado medidas para solucionar el problema. Pero otras empresas no lo dudan. The New York Times y CBC Canada lanzaron Project Origin hace dos años para desarrollar tecnología para probar que el mensaje vino de su fuente. Project Origin, Adobe, Intel y Sony se han convertido en parte de Alliance for Content Creation and Originality. Algunas versiones anteriores, incluidas las que rastrean la fuente de información en línea, de Project Origin ya están disponibles. Ahora la pregunta es: ¿Quién lo usará?

“Podemos proporcionar información ampliada para verificar la fuente de la información que reciben”, dice Bruce MacCormack, asesor principal de CBC Radio-Canada para iniciativas de defensa de la desinformación y cofundador de Project Origin. “Facebook tiene que decidir cuánto consumirá y usará en su sistema, y ​​descubrir cómo introducirlo en sus algoritmos y sistemas, de los que no tenemos ninguna visión”.

Project Origin, fundado en 2020, es un programa que permite a los espectadores determinar y probar si la información supuestamente proviene de una fuente de noticias confiable. Esto significa que no hay manipulación. En lugar de depender de blockchain o cualquier otra tecnología de registro distribuido para rastrear el movimiento de información a través de Internet, como podría ser posible en versiones futuras del llamado Web3, la tecnología etiqueta la información con datos sobre su origen y quién se mueve con ella. como es copiado y propagado. Dijo que una versión anterior del programa de desarrollo se puso a disposición de los miembros y ahora se puede utilizar.


hacer clic aqui Para suscribirse a SME CryptoAsset & Blockchain Advisor


Los problemas de meta desinformación son más que noticias falsas. Para reducir la superposición entre las soluciones de Project Origin y otras tecnologías similares que se enfocan en diferentes tipos de engaño, y para garantizar que las soluciones sean compatibles, la organización sin fines de lucro lanzó la Coalición para la creación y autenticidad de contenido, en febrero de 2021, para validar la autenticidad de una serie de tipos de propiedad intelectual. Adobe está en la lista Blockchain 50 y opera la Iniciativa de originalidad de contenido. Esta iniciativa, anunciada en octubre de 2021, demostrará que los NFT creados con el software son en realidad creados por el artista.

“Hace aproximadamente un año y medio, decidimos que realmente teníamos el mismo enfoque y estamos trabajando en la misma dirección”, dice MacCormack. “Queríamos asegurarnos de llegar a un solo lugar. No construimos dos conjuntos de tecnologías en competencia”.

Meta reconoce las falsificaciones profundas. La falta de confianza en la información es un problema. MacCormack y Google cofundaron la asociación sobre inteligencia artificial. Este grupo, MacCormack e IBM Tips, se lanzó en septiembre de 2016. Su objetivo es mejorar la calidad de la tecnología utilizada para hacer deepfakes. En junio de 2020 se dieron a conocer los resultados del Deep Fake Detection Challenge realizado por la red social. Estos resultados mostraron que los programas de detección de falsificaciones solo tuvieron un 65% de éxito.

Solucionar el problema no es solo un problema ético, sino que afectará a un número cada vez mayor de beneficios empresariales. McKinsey Research descubrió que la inversión en metaverso para la primera mitad de 2022 ya se duplicó. También predijeron que para 2030 la industria tendrá un valor de $ 5 billones. Este auge podría convertirse en un accidente.

MacCormack afirma que la profundidad del software falsificado mejora más rápido que el tiempo de ejecución. Una de las razones por las que ponen más énfasis en la capacidad de la información para probar que proviene de la fuente. “Si pones las herramientas de detección en la naturaleza, solo por la naturaleza de cómo funciona la IA, mejoraría las falsificaciones. Y estaban mejorando las cosas muy rápidamente, hasta el punto en que el ciclo de vida de la herramienta o el La vida útil de la herramienta sería menor que el tiempo que se tarda en implementarla, lo que significa que no se puede acceder a ella en absoluto. El mercado”.

Según McCormack, el problema solo empeorará. La semana pasada, un competidor novato de Dall-E de Sam Altman, llamado Stable Diffusion, que permite a los usuarios crear imágenes fotorrealistas tan pronto como se describen, abrió su código fuente para que cualquiera lo use. Según MacCormack, esto significa que es solo cuestión de tiempo antes de que se eludan las salvaguardas que implementa OpenAI para evitar la creación de ciertos tipos de contenido.

“Esto es algo así como la no proliferación”, dice McCormack. “Una vez que lo hay, lo hay. Entonces, el hecho de que este código se haya implementado sin garantía significa que existe la expectativa de que la cantidad de casos de uso malicioso comience a acelerarse drásticamente en los próximos meses”.

Leave a Reply

Your email address will not be published.