Mi primer servidor de inteligencia artificial: cuando las grandes ideas nacen de piezas usadas
Por Sebastián Jaramillo | Activando Creadores
No necesitas millones para comenzar a construir con inteligencia artificial. A veces, todo empieza con unas piezas usadas, mucha curiosidad y las ganas de descubrir hasta dónde puedes llegar.
Te invito a conocer mi laboratorio personal
Hace poco decidí abrir las puertas de mi laboratorio personal y compartir en un video algo que normalmente permanece detrás de cámaras: cómo construí mi propio servidor de inteligencia artificial utilizando componentes de segunda mano.
¿Por qué quise mostrarlo?
Porque quiero romper una idea que se ha instalado alrededor de la inteligencia artificial: que desarrollar tecnología propia requiere inversiones gigantescas, equipos de última generación o presupuestos reservados para grandes compañías.
La realidad es mucho más interesante.
Hoy existen oportunidades extraordinarias para experimentar con inteligencia artificial utilizando hardware que hace algunos años pertenecía a grandes centros de datos y que ahora puede conseguirse en el mercado de segunda mano.
Y mi laboratorio es un ejemplo de ello.
No comenzó con una infraestructura millonaria. Comenzó con una pregunta:
¿Qué podría construir si tuviera mi propia inteligencia artificial, funcionando en mis propios servidores y bajo mi control?
La respuesta terminó convirtiéndose en una aventura mucho más grande de lo que imaginaba.
El secreto está en darle una segunda vida a la tecnología
Cuando una empresa renueva sus servidores, muchos componentes perfectamente funcionales llegan al mercado de segunda mano.
Procesadores, memorias, tarjetas gráficas y placas base que originalmente costaban miles de dólares pueden encontrarse a precios mucho más accesibles.
Eso me llevó a explorar una posibilidad fascinante: construir mi propio servidor de IA aprovechando esta tecnología.
Mi configuración incluye dos procesadores Intel Xeon E5-2620, memoria RAM de servidor, dos tarjetas gráficas NVIDIA Tesla V100 de 32 GB y una fuente de alimentación de 750 W.
Las Tesla V100 son particularmente interesantes porque fueron diseñadas para cargas de trabajo de centros de datos e inteligencia artificial.
Aunque pertenecen a una generación anterior de aceleradores, siguen siendo útiles para ejecutar determinados modelos de IA.
Con dos unidades de 32 GB dispongo de 64 GB de memoria HBM2 distribuida entre ambas GPU, una capacidad muy interesante para experimentar con modelos de lenguaje de diferentes tamaños.
Eso sí, tener 64 GB distribuidos entre dos tarjetas no significa que funcionen automáticamente como una única GPU. El software debe gestionar adecuadamente la distribución del modelo.
Y precisamente ahí comenzó otra parte de mi aprendizaje.
¿Cuánto cuesta construir un servidor como este?
Una de las preguntas que más me hacen es cuánto dinero se necesita para tener inteligencia artificial privada.
Así que investigué precios aproximados de componentes usados en eBay para noviembre de 2026.
Esta sería una referencia para construir una configuración similar a la de mi laboratorio:
| Componente | Características | Precio aproximado en USD |
|---|---|---|
| Procesadores | 2 Intel Xeon E5-2620 | $20 |
| Placa base | Supermicro dual Xeon LGA 2011 | $125 |
| Memoria RAM | 256 GB DDR3 ECC | $416 |
| Tarjetas gráficas | 2 NVIDIA Tesla V100 de 32 GB | $1.400 |
| Fuente de alimentación | 750 W | $70 |
| Almacenamiento | SSD para sistema operativo | $40 |
| Refrigeración, adaptadores y accesorios | Según configuración | $100 |
| Inversión total estimada | Servidor con 64 GB de memoria GPU | $2.171 |
Los valores son orientativos, no corresponden necesariamente a mis precios originales de compra. Se basan en referencias de equipos usados y estimaciones de accesorios. No incluyen impuestos, envíos internacionales, importación ni posibles adaptaciones adicionales.
Es decir, por aproximadamente 2.200 dólares en componentes, dependiendo de las oportunidades del mercado, es posible construir una plataforma interesante para experimentar con inteligencia artificial privada.
¿Es poco dinero? Depende de cada persona.
¿Es significativamente más accesible que adquirir infraestructura profesional de IA de última generación? Sin duda.
Y lo más importante: no necesitas empezar con dos tarjetas gráficas ni con 256 GB de RAM.
Puedes comenzar con un equipo mucho más pequeño y ampliar sus capacidades a medida que aprendes.
Lo importante no es comenzar con el laboratorio más poderoso, sino comenzar a construir.
Tener un servidor es apenas el principio
Cuando logré reunir los componentes, ensamblar el equipo y ponerlo en funcionamiento, descubrí algo fundamental.
El hardware no es la inteligencia artificial.
Es solamente la infraestructura que permite ejecutarla.
Para convertir ese conjunto de componentes en un sistema capaz de procesar conversaciones, comprender instrucciones y ejecutar modelos de lenguaje, necesitaba estudiar cómo funciona realmente la inferencia.
Y fue entonces cuando empecé a explorar motores como llama.cpp y Strata, entre otras tecnologías.
Aprendí sobre cuantización de modelos, administración de memoria, distribución de cargas entre GPU, manejo de contexto y optimización del procesamiento.
Cada experimento abría nuevas preguntas.
¿Por qué un modelo respondía más rápido en determinada configuración?
¿Qué ocurría cuando distribuía sus capas entre dos tarjetas?
¿Cómo podía aprovechar mejor la memoria disponible?
¿Qué tan grande podía ser un modelo antes de encontrar limitaciones?
Poco a poco comprendí que ejecutar inteligencia artificial no consiste simplemente en instalar un programa y presionar un botón.
Detrás existe un universo de ingeniería, matemáticas, arquitectura de sistemas y optimización.
Pero también descubrí algo maravilloso:
Todo ese conocimiento está al alcance de quienes tienen la curiosidad y la determinación de aprender.
De experimentar con motores de IA a desarrollar Xeretron OS
Después de estudiar diferentes tecnologías de inferencia, comencé a imaginar algo más ambicioso.
¿Qué pasaría si pudiera construir una plataforma que integrara todo lo aprendido y simplificara la ejecución de inteligencia artificial privada?
No quería depender exclusivamente de herramientas aisladas.
Quería desarrollar un entorno en el que pudiera administrar mis modelos, controlar los recursos de mis servidores, integrar nuevas capacidades y construir experiencias de inteligencia artificial sobre una infraestructura propia.
De esa inquietud nació Xeretron OS.
Xeretron OS es la plataforma que desarrollé para integrar y administrar la ejecución de modelos de inteligencia artificial dentro de nuestro ecosistema tecnológico.
Su arquitectura aprovecha tecnologías de inferencia existentes, como llama.cpp, junto con componentes y desarrollos propios que permiten organizar y conectar las capacidades de IA con nuestras aplicaciones.
El objetivo no es reinventar cada algoritmo desde cero.
Es aprovechar el enorme conocimiento que existe en el mundo del código abierto y construir sobre él nuevas soluciones.
Hoy, Xeretron forma parte de una visión mucho más amplia dentro de Xerebria Technologies: crear herramientas que permitan a las personas y organizaciones utilizar inteligencia artificial de manera privada, flexible y con mayor control sobre su infraestructura.
Y pensar que buena parte de este camino comenzó ensamblando equipos y experimentando con componentes usados resulta emocionante.
¿Por qué tener inteligencia artificial privada?
Cuando utilizamos servicios de inteligencia artificial en la nube, normalmente dependemos de infraestructura administrada por terceros.
Esto tiene ventajas enormes, pero también puede representar costos recurrentes, dependencia de proveedores y consideraciones sobre el tratamiento de la información.
La inteligencia artificial local ofrece una alternativa interesante.
Permite ejecutar modelos compatibles dentro de nuestros propios equipos y desarrollar soluciones que no necesariamente requieren enviar cada consulta a un proveedor externo.
Para determinadas aplicaciones, esto puede traducirse en mayor control sobre los datos, personalización del entorno y autonomía tecnológica.
Naturalmente, operar infraestructura propia también implica responsabilidades: seguridad, mantenimiento, consumo eléctrico, refrigeración y actualizaciones.
No significa que la inteligencia artificial privada sea siempre más barata o mejor que la nube.
Significa que ahora tenemos más opciones para decidir cómo queremos construir y utilizar nuestra tecnología.
Y esa libertad me parece extraordinaria.
No necesitas tener mi laboratorio para comenzar
Quiero dejar algo muy claro.
El propósito de compartir este video no es que salgas corriendo a comprar dos Tesla V100.
Tampoco necesitas construir un servidor como el mío para experimentar.
Actualmente existen modelos compactos que pueden ejecutarse en computadores personales con recursos mucho más modestos.
Puedes empezar instalando un motor de inferencia, ejecutando tu primer modelo local y descubriendo cómo funciona.
Después puedes experimentar con herramientas, automatizaciones, asistentes personales o pequeñas aplicaciones.
Y si un día tus proyectos requieren más capacidad, puedes pensar en ampliar tu infraestructura.
Eso fue precisamente lo que hice: aprender, experimentar, cometer errores, corregirlos y continuar avanzando.
Porque el verdadero valor de este laboratorio no está solamente en sus procesadores, sus memorias o sus tarjetas gráficas.
Está en todo lo que he aprendido construyéndolo.
La próxima gran innovación podría comenzar en tu habitación
Cuando vemos las enormes inversiones que realizan las grandes compañías tecnológicas, es fácil pensar que la inteligencia artificial es un terreno reservado para unos pocos.
Pero existe otra realidad.
Una persona curiosa, con acceso a internet, herramientas abiertas y un computador, puede aprender tecnologías que antes parecían inaccesibles.
Puede desarrollar aplicaciones, crear asistentes, automatizar procesos y experimentar con sus propias ideas.
Quizás no pueda entrenar desde cero el modelo más grande del planeta.
Pero no necesita hacerlo para crear algo extraordinario.
Mi laboratorio personal me enseñó que no siempre necesitamos la tecnología más nueva.
A veces necesitamos aprender a aprovechar mejor la que ya existe.
Y esa es una de las razones por las que decidí compartir esta experiencia.
No quiero que simplemente observes lo que he construido.
Quiero que te preguntes qué podrías construir tú.
Porque detrás de cada gran proyecto hubo alguien que decidió comenzar, incluso sin tener todas las respuestas.
Activando creadores como tú
Si llegaste hasta aquí, quiero invitarte a ver el video en el que te muestro mi laboratorio y te cuento cómo ensamblé este servidor de inteligencia artificial.
Mi intención es compartir experiencias reales, conocimientos y herramientas que te ayuden a transformar tus ideas en proyectos.
No necesitas ser un experto para empezar.
Necesitas curiosidad, ganas de aprender y la decisión de dar el primer paso.
La tecnología es una herramienta. El verdadero creador eres tú.
Y recuerda:
Las grandes ideas no siempre nacen en grandes laboratorios. A veces nacen en una habitación, entre cables, componentes usados y alguien que se atreve a imaginar algo diferente.
Sebastián Jaramillo
Emprendedor tecnológico | Fundador de Xerebria Technologies
Activando creadores como tú.