Anthropic incluyó una advertencia llamativa en la versión actualizada del documento que presentó para su salida a la bolsa: estiman que están cerca de crear una inteligencia artificial que pueda mejorarse a sí misma, sin intervención humana, lo cual cambiaría el panorama de esta tecnología de manera inmensa.
Contexto. A este escenario se lo conoce como mejora recursiva: el punto en el que una IA se vuelve tan buena entrenándose a sí misma, que acelera de forma dramática sus propias capacidades. Dentro del mundo de la tecnología hay dos posturas muy claras: los doomers, que creen que este proceso podría terminar en una catástrofe si los sistemas escapan al control humano, y los más entusiastas, que creen que podría traer enormes beneficios para la humanidad.
Qué dijeron. “Utilizar IA para ayudar a construir IA más capaz también podría representar un riesgo considerable para la seguridad, especialmente si acelera de manera pronunciada el ritmo del progreso”, advierten desde Anthropic. La empresa también admite algo no trivial: en el pasado ya tuvo aceleraciones en su desarrollo, que no detectó hasta después de ocurridas.
Futuro. Hay que tener en cuenta que estas declaraciones aparecen en un documento que también funciona como herramienta de comunicación para potenciales inversores. Pero, primero, no es la primera vez que una empresa habla de avances que permitan una mejora recursiva; y, segundo, si las proyecciones de Anthropic se cumplen, el interrogante dejará de ser si va a pasar, para preguntarnos quién llegará primero.
No hay comentarios:
Publicar un comentario