¡Más lecciones por venir! ¡Ser notificado!
Los videos futuros explicarán más detalles sobre los aspectos internos de la IA moderna. Suscríbase a continuación para recibir notificaciones sobre nuevos tutoriales y actualizaciones.
Inténtalo tú mismo
Descargando
La hoja está disponible como un archivo xlsb (binario de Excel) en el Sección de lanzamientos del repositorio de github. Debería poder descargar y ejecutar este archivo en Excel para Mac o PC.
Usando
Si intentas orientarte rápidamente en la hoja de cálculo, este caminar a través del vídeo Puede resultar útil aunque no está orientado a principiantes. Para principiantes, se recomienda comenzar con los videos de las lecciones.
Tenga en cuenta que la implementación es suficiente para ejecutar cargas de trabajo muy pequeñas:
- Modelo completo GPT2 pequeño (parámetros de 124M) que incluye codificación de pares de bytes, incrustaciones, atención de múltiples cabezas y etapas de perceptrón de múltiples capas
- Sólo inferencia/pase hacia adelante (sin entrenamiento)
- El contexto está limitado a 10 tokens de longitud.
- Límite de 10 caracteres por palabra
- Sólo salida de temperatura cero
Esta hoja es muy grande. Desafortunadamente, no es inusual que Excel se bloquee (pero solo en una Mac) al usar esta hoja de cálculo. Se recomienda encarecidamente utilizar el modo de cálculo manual en Excel y la versión de Excel para Windows (ya sea en un directorio de Windows o mediante Parallels en una Mac).
Asuntos
Los errores no están fuera de discusión. Por favor presente problemas en GitHub
Contacto
@ianand en Twitter
Preguntas más frecuentes
¿Qué pasa con Hojas de cálculo de Google?
En realidad, este proyecto comenzó en Google Sheets, pero el modelo completo de 124M era demasiado grande y se cambió a Excel. Todavía estoy explorando formas de hacer que esto funcione en Google Sheets, pero es poco probable que quepa en un solo archivo como ocurre con Excel.
¿Por qué no puedo chatear con él como ChatGPT? ¿No coincide con la salida de ChatGPT?
Aparte de la minúscula longitud del contexto, también carece del ajuste de instrucciones y del aprendizaje reforzado a partir de la retroalimentación humana (RLHF) que convierten un modelo de lenguaje grande en un chatbot.
¿Por qué se llama Hojas de cálculo: son todo lo que necesitas?
El nombre es un juego de palabras con el título del famoso Atención es todo lo que necesitas artículo que describió por primera vez Arquitectura de aprendizaje automático transformador eso subyace a ChatGPT, Claude, Bard y muchas de las últimas herramientas de IA generativa.