Nuevos desafíos en la seguridad de la IA: la encriptación completamente homomórfica podría ser clave para la protección de modelos avanzados como Manus.
Seguridad de la IA problemas se destacan cada vez más con el avance del modelo Manus
Recientemente, el modelo Manus estableció un nuevo récord en la prueba de referencia GAIA, superando el rendimiento de otros grandes modelos de lenguaje de su nivel. Esto significa que Manus puede llevar a cabo de forma independiente tareas complejas como negociaciones comerciales internacionales, que implican el análisis de cláusulas contractuales, la formulación de estrategias y la generación de propuestas en múltiples etapas. La ventaja de Manus radica en su descomposición dinámica de objetivos, razonamiento multimodal y capacidad de aprendizaje reforzado. Puede descomponer tareas complejas en múltiples subtareas ejecutables, manejar diferentes tipos de datos y mejorar continuamente la eficiencia de la toma de decisiones y reducir la tasa de errores a través del aprendizaje por refuerzo.
Los avances revolucionarios de Manus han reavivado el debate en la industria sobre la trayectoria del desarrollo de la IA: ¿El futuro se dirige hacia la inteligencia artificial general (AGI) o hacia sistemas multiagente (MAS)? Estas dos trayectorias reflejan el dilema entre eficiencia y seguridad en el desarrollo de la IA. La trayectoria de AGI persigue la mejora integral de un único agente inteligente, mientras que la trayectoria de MAS enfatiza la colaboración de múltiples agentes inteligentes especializados.
Sin embargo, a medida que los sistemas de IA se vuelven cada vez más inteligentes, también aumentan sus riesgos potenciales. Por ejemplo, en el ámbito de la salud, la IA podría necesitar acceder a datos genéticos sensibles de los pacientes; en las negociaciones financieras, podría involucrar información financiera de empresas no divulgada. Además, los sistemas de IA también pueden tener sesgos algorítmicos, como dar recomendaciones salariales injustas a ciertos grupos durante el proceso de contratación. Más grave aún, los sistemas de IA pueden ser objeto de ataques adversariales, como interferir en el juicio de la IA a través de frecuencias de voz específicas.
Ante estos desafíos, la industria está explorando diversas soluciones de seguridad. El modelo de seguridad de confianza cero exige una verificación estricta de cada solicitud de acceso, la identidad descentralizada (DID) proporciona un método de identificación que no depende de un registro centralizado, mientras que la encriptación completamente homomórfica (FHE) permite realizar cálculos de datos en estado cifrado.
La criptografía totalmente homomórfica, como una tecnología emergente, se espera que se convierta en una herramienta clave para resolver los problemas de seguridad en la era de la IA. Puede proteger la privacidad de los usuarios a nivel de datos, realizar "entrenamiento de modelos cifrados" a nivel de algoritmos y adoptar cifrado umbral para proteger la seguridad de las comunicaciones en la cooperación entre múltiples agentes.
Aunque la tecnología de seguridad Web3 puede parecer distante para los usuarios comunes, es crucial para proteger los intereses de los usuarios. Los proyectos de identidad descentralizada temprana como uPort y el proyecto de confianza cero NKN, aunque no lograron obtener una amplia atención, los emergentes proyectos de FHE como Mind Network están colaborando con varias empresas reconocidas, con la esperanza de impulsar la aplicación y el desarrollo de esta tecnología.
A medida que la tecnología de IA se acerca cada vez más al nivel de inteligencia humana, se vuelve cada vez más importante establecer un sólido sistema de defensa de seguridad. La criptografía de homomorfismo completo no solo puede abordar los desafíos de seguridad actuales, sino que también sienta las bases para una era de IA más avanzada en el futuro. En el camino hacia la AGI, el FHE podría convertirse en la tecnología clave para garantizar el desarrollo seguro de la IA.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
Nuevos desafíos en la seguridad de la IA: la encriptación completamente homomórfica podría ser clave para la protección de modelos avanzados como Manus.
Seguridad de la IA problemas se destacan cada vez más con el avance del modelo Manus
Recientemente, el modelo Manus estableció un nuevo récord en la prueba de referencia GAIA, superando el rendimiento de otros grandes modelos de lenguaje de su nivel. Esto significa que Manus puede llevar a cabo de forma independiente tareas complejas como negociaciones comerciales internacionales, que implican el análisis de cláusulas contractuales, la formulación de estrategias y la generación de propuestas en múltiples etapas. La ventaja de Manus radica en su descomposición dinámica de objetivos, razonamiento multimodal y capacidad de aprendizaje reforzado. Puede descomponer tareas complejas en múltiples subtareas ejecutables, manejar diferentes tipos de datos y mejorar continuamente la eficiencia de la toma de decisiones y reducir la tasa de errores a través del aprendizaje por refuerzo.
Los avances revolucionarios de Manus han reavivado el debate en la industria sobre la trayectoria del desarrollo de la IA: ¿El futuro se dirige hacia la inteligencia artificial general (AGI) o hacia sistemas multiagente (MAS)? Estas dos trayectorias reflejan el dilema entre eficiencia y seguridad en el desarrollo de la IA. La trayectoria de AGI persigue la mejora integral de un único agente inteligente, mientras que la trayectoria de MAS enfatiza la colaboración de múltiples agentes inteligentes especializados.
Sin embargo, a medida que los sistemas de IA se vuelven cada vez más inteligentes, también aumentan sus riesgos potenciales. Por ejemplo, en el ámbito de la salud, la IA podría necesitar acceder a datos genéticos sensibles de los pacientes; en las negociaciones financieras, podría involucrar información financiera de empresas no divulgada. Además, los sistemas de IA también pueden tener sesgos algorítmicos, como dar recomendaciones salariales injustas a ciertos grupos durante el proceso de contratación. Más grave aún, los sistemas de IA pueden ser objeto de ataques adversariales, como interferir en el juicio de la IA a través de frecuencias de voz específicas.
Ante estos desafíos, la industria está explorando diversas soluciones de seguridad. El modelo de seguridad de confianza cero exige una verificación estricta de cada solicitud de acceso, la identidad descentralizada (DID) proporciona un método de identificación que no depende de un registro centralizado, mientras que la encriptación completamente homomórfica (FHE) permite realizar cálculos de datos en estado cifrado.
La criptografía totalmente homomórfica, como una tecnología emergente, se espera que se convierta en una herramienta clave para resolver los problemas de seguridad en la era de la IA. Puede proteger la privacidad de los usuarios a nivel de datos, realizar "entrenamiento de modelos cifrados" a nivel de algoritmos y adoptar cifrado umbral para proteger la seguridad de las comunicaciones en la cooperación entre múltiples agentes.
Aunque la tecnología de seguridad Web3 puede parecer distante para los usuarios comunes, es crucial para proteger los intereses de los usuarios. Los proyectos de identidad descentralizada temprana como uPort y el proyecto de confianza cero NKN, aunque no lograron obtener una amplia atención, los emergentes proyectos de FHE como Mind Network están colaborando con varias empresas reconocidas, con la esperanza de impulsar la aplicación y el desarrollo de esta tecnología.
A medida que la tecnología de IA se acerca cada vez más al nivel de inteligencia humana, se vuelve cada vez más importante establecer un sólido sistema de defensa de seguridad. La criptografía de homomorfismo completo no solo puede abordar los desafíos de seguridad actuales, sino que también sienta las bases para una era de IA más avanzada en el futuro. En el camino hacia la AGI, el FHE podría convertirse en la tecnología clave para garantizar el desarrollo seguro de la IA.