El presidente de Microsoft, Brad Smith, expresó su preocupación por la difusión generalizada de contenido falso pero de apariencia realista. The Guardian escribe sobre ello.
Durante un discurso en Washington sobre la regulación de la IA, Smith hizo un llamado a la acción para reconocer las falsificaciones profundas.
“Tendremos que resolver los problemas asociados con las falsificaciones profundas. Tendremos que prestar especial atención al hecho de que la mayoría de las operaciones de influencia cibernética extranjera ya las lleva a cabo el gobierno ruso, los chinos, los iraníes”, dijo.
Smith cree que se deben tomar medidas ahora para proteger el contenido legítimo de ser alterado por la IA para engañar a las personas. También pidió la concesión de licencias de las formas más importantes de inteligencia artificial, con «obligaciones de proteger la seguridad».
“Necesitaremos una nueva generación de controles de exportación […] para garantizar que nuestros modelos no sean robados o mal utilizados”, dijo Smith.
Sincronización con OpenAI
La semana pasada, el jefe de OpenAI, Sam Altman, compareció ante el Congreso de EE. UU., donde pidió la regulación de la IA. El CEO de la compañía también habló sobre las posibles licencias de las tecnologías más importantes para que los desarrolladores cumplan con ciertos criterios.
Después de eso, Altman fue a Europa, donde se reunió con los líderes de Gran Bretaña, Francia, Alemania y otros países. Allí afirmó que OpenAI tendría que abandonar el mercado de la UE si la empresa no podía cumplir con las «reglas duras» de la ley de IA.
Muchos expertos y líderes de opinión en el campo de la inteligencia artificial respaldan la intención de regular la tecnología. En marzo, firmaron una carta abierta pidiendo que se detuvieran los experimentos con grandes modelos de lenguaje.
Sin embargo, la iniciativa ha enfrentado críticas. El fundador de Microsoft, Bill Gates, cree que una pausa no ayudará a «pacificar» a la IA.
Según el multimillonario, cada vez es más difícil frenar la inteligencia artificial a escala global. En cambio, el mundo debería enfocarse en usar la tecnología para el bien de la sociedad.
Altman apoyó solo algunas de las tesis de la carta abierta.
Los esfuerzos de Microsoft para luchar contra las falsificaciones profundas
En la conferencia Build 2023, Microsoft presentó varios servicios para combatir las falsificaciones profundas. En los próximos meses, la empresa lanzará una especificación C2PA para validar imágenes y videos para Bing Image Creator o Designer.
Microsoft también presentó la herramienta de moderación de contenido Azure AI Content Safety. El servicio está capacitado para detectar imágenes y textos tóxicos generados tanto por humanos como por inteligencia artificial.
Los modelos trabajan en varios idiomas. Asignan un nivel de riesgo al contenido y notifican al moderador para que tome medidas.
Recordemos que en mayo, el exjefe de Google, Eric Schmidt, calificó a la IA de «amenaza existencial» por la que muchas personas podrían «sufrir o morir».
Ese mismo mes, el inversionista multimillonario Warren Buffett comparó la inteligencia artificial con la construcción de la bomba atómica y expresó su consternación por el rápido avance de la tecnología.
¿Encontraste un error en el texto? Selecciónalo y presiona CTRL+ENTER
Boletines de ForkLog: ¡Manténgase al tanto de la industria de bitcoin!