Hiring Profile

AI Systems Engineer / AI Architect

Applied AI infrastructure role. Backbone of the product.

1. Context

This product is a long-term cognitive system. The LLM is the muscle; the memory layer is the brain. Every conversation deepens a structured model of the user (goals, patterns, reflections) across years, not turns. We are building locally-first on existing hardware (Hostinger VPS + RTX 5090 workstation), with paid APIs as a small fallback.

2. Ownership

Memory architecture across 5 types (episodic, semantic, procedural, goal, reflection) with custom lifecycle rules: store, update, merge, forget, abstract, prioritize, reflect
Hybrid retrieval pipeline blending 6 signals: semantic similarity, recency, importance, emotional relevance, goal relevance, relationship graph
Reflection generation pipelines (nightly consolidation, pattern detection, weekly insights)
Orchestration with LangGraph: stateful workflows, agent graphs, controllable execution
Evaluation frameworks: memory consistency, reflection quality, retrieval accuracy, regression detection
Observability: Langfuse (self-hosted) for tracing every memory read, prompt, and output
Voice + avatar pipeline: memory context to TTS (Coqui XTTS or ElevenLabs) to phoneme / viseme stream feeding the Unreal MetaHuman

3. Skills required

Must have

Area	What we need
Python	Deep. Async, type hints, packaging, debugging at the framework level.
LLM systems	Production experience with Claude / GPT APIs and local LLM inference (vLLM, Ollama, llama.cpp). Understands tokenization, quantization, KV cache, context window economics.
RAG / memory systems	Built one before. Knows where naive RAG falls apart. Has opinions on chunking, retrieval scoring, dedup, and write-time vs read-time abstraction.
Embeddings	Hands-on with multiple providers (Voyage, OpenAI) and local models (bge-large, nomic-embed). Knows the MTEB trade-offs.
Vector search	pgvector in production. Knows IVF vs HNSW, index tuning, hybrid search with BM25.
Orchestration frameworks	LangGraph or equivalent (Letta, custom). Can wire stateful multi-step AI pipelines without turning them into spaghetti.
Production AI systems	Has shipped LLM-based systems to real users. Understands rate limits, retries, streaming, idempotency, and failure modes the typical web engineer misses.
PostgreSQL	Comfortable with schema design, migrations, query optimization. We run Postgres + pgvector self-hosted.
Evaluation	Knows how to build eval harnesses for LLM outputs. Has used LLM-as-judge and human-in-the-loop evals. Has opinions on golden datasets.
Observability for AI	LangSmith, Langfuse, or custom tracing. Can debug "why did the AI say that?" from logs.
Self-hosted ops	Docker, systemd, Nginx, Cloudflare Tunnel. We run our own stack on a VPS + workstation.

4. Profile fit

You are:

An applied AI infrastructure engineer, not a research scientist. You enjoy shipping reliable systems more than publishing papers.
Comfortable being the first technical owner of a brand-new memory architecture, with no playbook to copy.
Opinionated about evaluation. You believe an AI system without evals is just a demo.
Pragmatic about local vs cloud. You pick the right tool, not the trendy one.
Good at saying "this is the wrong abstraction" before we ship the wrong abstraction.
Able to communicate decisions clearly to a small team (engineers, designers, QA).

5. Not a fit

You are probably not the right person if:

You have only used hosted LLM APIs and never run a local model in production.
You think "memory" is solved by stuffing chat history into a vector DB.
You skip evaluation because "the outputs look fine."
You only work in notebooks and have not maintained production services.
You expect a research role with no shipping pressure.

6. Interview signal

We will look for:

A previous LLM / RAG / memory project you can walk through end-to-end (architecture decisions, what failed, what you would do differently).
How you would design the memory layer in a 60-minute whiteboard, given the 5 memory types and 6 retrieval signals.
How you would evaluate a reflection ("user overthinks before publishing") for correctness, safety, and usefulness.
Sample code or a system diagram (PRs, blog posts, talks all count).

Think this is you? We would love to hear from you.

Apply Now

Profilo di Ricerca

AI Systems Engineer / AI Architect

Ruolo di infrastruttura AI applicata. Spina dorsale del prodotto.

1. Contesto

Questo prodotto è un sistema cognitivo a lungo termine. L'LLM è il muscolo; il livello di memoria è il cervello. Ogni conversazione arricchisce un modello strutturato dell'utente (obiettivi, schemi, riflessioni) nell'arco di anni, non di singoli scambi. Costruiamo in ottica local-first su hardware esistente (VPS Hostinger + workstation RTX 5090), con le API a pagamento come piccolo fallback.

2. Responsabilità

Architettura della memoria su 5 tipi (episodica, semantica, procedurale, obiettivi, riflessione) con regole di ciclo di vita personalizzate: memorizzare, aggiornare, unire, dimenticare, astrarre, dare priorità, riflettere
Pipeline di retrieval ibrida che combina 6 segnali: similarità semantica, recenza, importanza, rilevanza emotiva, rilevanza rispetto agli obiettivi, grafo delle relazioni
Pipeline di generazione delle riflessioni (consolidamento notturno, rilevamento di schemi, insight settimanali)
Orchestrazione con LangGraph: workflow stateful, grafi di agenti, esecuzione controllabile
Framework di valutazione: coerenza della memoria, qualità delle riflessioni, accuratezza del retrieval, rilevamento delle regressioni
Osservabilità: Langfuse (self-hosted) per tracciare ogni lettura di memoria, prompt e output
Pipeline voce + avatar: dal contesto di memoria al TTS (Coqui XTTS o ElevenLabs) fino al flusso di fonemi / visemi che alimenta il MetaHuman di Unreal

3. Competenze richieste

Indispensabili

Area	Cosa ci serve
Python	Avanzato. Async, type hints, packaging, debugging a livello di framework.
Sistemi LLM	Esperienza in produzione con le API di Claude / GPT e con l'inferenza di LLM in locale (vLLM, Ollama, llama.cpp). Comprende tokenizzazione, quantizzazione, KV cache, economia della context window.
Sistemi RAG / di memoria	Ne ha già costruito uno. Sa dove la RAG ingenua si rompe. Ha opinioni su chunking, scoring del retrieval, deduplicazione e astrazione in scrittura vs in lettura.
Embeddings	Esperienza pratica con più provider (Voyage, OpenAI) e modelli locali (bge-large, nomic-embed). Conosce i trade-off del benchmark MTEB.
Ricerca vettoriale	pgvector in produzione. Conosce IVF vs HNSW, tuning degli indici, ricerca ibrida con BM25.
Framework di orchestrazione	LangGraph o equivalenti (Letta, soluzioni custom). Sa costruire pipeline AI stateful multi-step senza trasformarle in spaghetti code.
Sistemi AI in produzione	Ha portato in produzione sistemi basati su LLM per utenti reali. Comprende rate limit, retry, streaming, idempotenza e le modalità di errore che il tipico web engineer si lascia sfuggire.
PostgreSQL	A suo agio con progettazione dello schema, migrazioni, ottimizzazione delle query. Usiamo Postgres + pgvector self-hosted.
Valutazione	Sa costruire harness di valutazione per gli output degli LLM. Ha usato valutazioni LLM-as-judge e human-in-the-loop. Ha opinioni sui golden dataset.
Osservabilita per l'AI	LangSmith, Langfuse o tracing custom. Sa fare debug di «perché l'AI ha detto questo?» dai log.
Operations self-hosted	Docker, systemd, Nginx, Cloudflare Tunnel. Gestiamo il nostro stack su VPS + workstation.

4. Profilo ideale

Tu sei:

Un ingegnere di infrastruttura AI applicata, non un ricercatore. Ti piace di più rilasciare sistemi affidabili che pubblicare paper.
A tuo agio nell'essere il primo responsabile tecnico di un'architettura di memoria del tutto nuova, senza un manuale da copiare.
Hai posizioni chiare sulla valutazione. Credi che un sistema AI senza eval sia solo una demo.
Pragmatico su locale vs cloud. Scegli lo strumento giusto, non quello di moda.
Bravo a dire «questa è l'astrazione sbagliata» prima che rilasciamo l'astrazione sbagliata.
Capace di comunicare le decisioni in modo chiaro a un piccolo team (ingegneri, designer, QA).

5. Non adatto

Probabilmente non sei la persona giusta se:

Hai usato solo API di LLM hosted e non hai mai messo in produzione un modello locale.
Pensi che la «memoria» si risolva infilando la cronologia delle chat in un vector DB.
Salti la valutazione perché «gli output sembrano a posto».
Lavori solo nei notebook e non hai mai mantenuto servizi in produzione.
Ti aspetti un ruolo di ricerca senza la pressione del rilascio.

6. Cosa valuteremo al colloquio

Cercheremo:

Un precedente progetto LLM / RAG / memoria che sai illustrare end-to-end (decisioni architetturali, cosa è andato storto, cosa faresti diversamente).
Come progetteresti il livello di memoria in una sessione whiteboard di 60 minuti, dati i 5 tipi di memoria e i 6 segnali di retrieval.
Come valuteresti una riflessione («l'utente rimugina troppo prima di pubblicare») per correttezza, sicurezza e utilità.
Codice di esempio o un diagramma di sistema (valgono PR, blog post e talk).

Pensi di essere tu? Ci piacerebbe sentirti.

Candidati ora