Más de mil expertos de la industria, incluidos Elon Musk y Steve Wozniak, han pedido una suspensión de seis meses de la capacitación para modelos de lenguaje más potentes que GPT-4 de OpenAI.
La correspondiente carta abierta del Instituto para el Futuro de la Vida fue firmada por científicos, empresarios e investigadores independientes. Los expertos creen que el desarrollo de IA avanzada debe suspenderse hasta que existan protocolos de seguridad comunes para tales diseños.
“Los poderosos sistemas de inteligencia artificial solo deben desarrollarse cuando estemos seguros de que sus efectos serán positivos y los riesgos manejables”, dijo el comunicado.
¡-10% de tarifa de negociación en Binance de por vida!
La carta detalla las amenazas potenciales para la sociedad y la civilización de los sistemas de inteligencia artificial competitivos. Incluyen trastornos económicos y políticos.
Los expertos también instaron a los desarrolladores a cooperar con los reguladores.
“La carta no es perfecta, pero el espíritu es correcto: debemos reducir la velocidad hasta que entendamos mejor las ramificaciones”, dijo el profesor emérito de la NYU Gary Markus, quien firmó la carta.
El científico cree que los grandes sistemas lingüísticos pueden dañar a muchas personas.
“Los grandes jugadores se están volviendo cada vez más reservados sobre lo que hacen, lo que dificulta proteger a la sociedad de cualquier daño que pueda materializarse”, agregó Markus.
Quizás la preocupación de la industria ha aumentado con el desarrollo activo de grandes modelos de lenguaje y chatbots basados en ellos. Desde el anuncio de ChatGPT en noviembre de 2022, los gigantes tecnológicos y las nuevas empresas han entrado en una nueva carrera de IA.
En febrero, Microsoft y Google, uno tras otro, introdujeron servicios de búsqueda basados en algoritmos conversacionales.
En marzo, OpenAI abrió el acceso a API ChatGPT, que permitió a decenas de empresas integrar el chatbot en sus propias aplicaciones.
En los últimos dos meses, Microsoft ha introducido una serie de funciones de IA basadas en OpenAI para sus productos, incluidos Word, Excel, PowerPoint, Outlook, Teams, GitHub, Bing, Dynamics y Azure.
Recordemos que en marzo, Europol advirtió sobre las amenazas de ChatGPT.
Ese mismo mes, el CEO de OpenAI, Sam Altman, reconoció los riesgos asociados con el chatbot.
En enero, el desarrollador de ChatGPT advirtió sobre el uso de la IA por parte de los desinformadores.
Suscríbete a ForkLog en las redes sociales
¿Encontraste un error en el texto? Selecciónalo y presiona CTRL+ENTER
Boletines de ForkLog: ¡Manténgase al tanto de la industria de bitcoin!
0
0
