+34
David Robinson, quien llevaba tres años y medio en la compañía y participaba en la elaboración de sus informes de seguridad, cuestionó la velocidad del desarrollo de la inteligencia artificial. Advirtió que las fallas pueden tener consecuencias cada vez mayores y reclamó controles similares a los de industrias críticas.
David RobinsonDespués de tres años y medio en la empresa, advirtió que el desarrollo acelerado de sistemas de inteligencia artificial cada vez más capaces exige controles más rigurosos para evitar fallas con consecuencias potencialmente graves.
, en el que cuestionó el enfoque de seguridad dey planteó que los cambios necesarios van más allá de establecer nuevas reglas o aprobar leyes.afirmó que lideró la redacción de informes de seguridad que acompañaron algunos de los principales lanzamientos de la compañía. También señaló que, por su antigüedad, se encontraba entre los empleados que llevaban más tiempo trabajando allí.
Su salida se conoce en medio de un debate sobre los riesgos de los modelos avanzados de IA y las medidas que deben adoptar las empresas que los desarrollan. El investigador cuestionó el método de desarrollo quedenomina despliegue iterativo, basado en lanzar sistemas, identificar problemas durante su utilización y reforzar las medidas de protección a partir de los resultados.
, ese enfoque implica aceptar la aparición periódica de fallas, cuyo alcance puede aumentar a medida que los modelos adquieren nuevas capacidades.por parte de agentes deEl exempleado sostuvo que las compañías que desarrollan modelos avanzados deberían adoptar estándares de seguridad comparables a los de las centrales nucleares o los aeropuertos, con múltiples capas de protección y procedimientos de planificación rigurosos. , no encontró colegas con experiencia directa en la gestión de la seguridad de industrias críticas, como la aviación o la energía nuclear.
Drew Pusateri , aseguró que la compañía continúa mejorando sus mecanismos de seguridad y que puede detener el entrenamiento o retrasar el lanzamiento de modelos cuando considera necesario reducir el ritmo de desarrollo. Según explicó, la empresa está introduciendo cambios para reforzar la seguridad de sus entornos de investigación y pruebas, ampliar la participación de evaluadores externos y mejorar el monitoreo en tiempo real para detectar comportamientos preocupantes durante las primeras etapas del entrenamiento.
OpenAI había desvinculado a tres investigadores de seguridad por presuntas infracciones de sus políticas de acceso y manejo de información confidencial. La empresa atribuyó esas salidas a una investigación interna.también cuestionó las herramientas actuales para evaluar si los sistemas de inteligencia artificial actúan de acuerdo con los valores humanos. A su entender, las mediciones disponibles todavía son demasiado generales para garantizar un desarrollo seguro de modelos cada vez más avanzados.para intentar impulsar cambios internos.
Sin embargo, sostuvo que el ritmo de trabajo de la compañía dejaba poco espacio para revisar sus prácticas y plantear transformaciones de fondo. Por ese motivo, consideró que se necesitan incentivos externos más fuertes para que las empresas prioricen la seguridad. Su renuncia se suma a las advertencias de otros investigadores que abandonaron compañías líderes del sector. Entre ellos figura
Argentina Últimas Noticias, Argentina Titulares
Similar News: También puedes leer noticias similares a ésta que hemos recopilado de otras fuentes de noticias.
Gastón Gaudio confirmó que Ricardo Bochini está en su lista para las elecciones presidenciales en IndependienteEl ídolo del Rojo tendrá una participación directa en la votación del 13 de diciembre
Leer más »
OpenAI despide investigadores por violar políticas de manejo de información sensibleLa empresa creadora de ChatGPT despidió a tres investigadores vinculados con la seguridad de la IA por manejar información sensible fuera de los procedimientos establecidos. Según OpenAI, estos actos violan sus políticas internas y la confianza necesaria para su trabajo, aunque no se relacionan con denuncias sobre el estado de la seguridad de la IA.
Leer más »
OpenAI despidió a tres empleados que habrían divulgado información secreta a un organismo externoLos trabajadores separados integraban los equipos de seguridad de la organización que desarrolla ChatGPT.
Leer más »
Bernabé López Fleming y Santiago David, Contributors en el derbi de la URBALos dosrugbyistasLz对话 con LA NACION antes del encuentro entre Jockey de Salta y CASI, por la 24ª fecha del Top 14 de URBA. Ambos|gf|iders|ike?n desde la infancia,ciparon en el Jockey y luego se развиaron en diferentes instituciones. López Fleming 环境目前 plays para SIC, mientras que Davidributo es}}- -sports|Santiago,David,etc.
Leer más »