AI Foundations¶

Ez a rész az AI applicationök tervezéséhez és megértéséhez szükséges alap mentális modelleket építi fel, mielőtt továbbmennénk a RAG, MCP, agent skills, agentic loops, memory és nagyobb agent architecture témákra.

A cél nem a model internals bemagolása. A cél annak megértése, hogy hol hasznos az LLM, hol kell determinisztikus software-nek átvennie a feladatot, és hogyan teszi a környező application megbízhatóvá az AI behaviourt.

Részletes témák¶

1. LLM Mental Model ¶

Értsd meg, mit csinál egy LLM runtime közben, mit tanult training során, miért probabilisztikus az outputja, és miért természetes failure mode a hallucination. Válaszd szét a model capabilityt az application capabilitytől.

2. Tokens and Context Window ¶

Értsd meg a tokenizationt, input/output tokeneket, context limitet, context budgetet és azt, miért nem automatikusan jobb a több context. Tanulj relevance, prioritization és context pollution szemléletben gondolkodni.

3. Model Inputs and Structured Outputs ¶

Ismerd meg a model input és output fő formáit: instruction, conversation context, retrieved information, tool result, free text, JSON, schema-constrained output, extraction, classification és tool call.

4. Prompt Engineering ¶

A promptot task specificationként kezeld, ne magic wordingként. Fókuszálj a goalra, constraintre, inputra, example-re, decompositionre, explicit output contractra és a prompt vs deterministic application logic boundaryra.

5. Context Engineering ¶

Tanuld meg eldönteni, milyen információt lásson a modell a task végrehajtásakor. Ide tartozik conversation history, retrieved document, project state, tool result, memory, compression, relevance és authorization.

6. Sampling and Model Behaviour ¶

Értsd meg, miért adhatnak az ismételt callok eltérő eredményt, hogyan befolyásolja a temperature és top-p az outputot, és miért maradjon determinisztikus business rule determinisztikus kódban.

7. Model Selection and Routing ¶

Task capability, latency, cost, context size, multimodality, structured output és tool-use alapján válassz modellt. Static selection, dynamic routing, escalation és fallback is ide tartozik.

8. Embeddings ¶

Értsd meg a vector representationt, semantic similarityt, vector searchöt, chunkingot, metadatát, hybrid retrievalt és azt, hogy az embedding retrieval signal, nem source of truth.

9. Tool Calling ¶

Értsd meg, hogyan kér a modell structured tool callon keresztül külső capabilityt, miközben validation, authorization, execution, side effect, error handling és auditability az application felelőssége marad.

10. Reliability and Deterministic Boundaries ¶

Tanuld meg a probabilisztikus model behaviourt deterministic contractokkal, business rule-okkal, retryval, idempotencyvel, stop conditionnel, fallbackkal, validationnel és observabilityvel kombinálni.

11. Evaluation Basics ¶

AI change-et representative dataset, golden example, deterministic check, semantic evaluation, human review, LLM-as-a-judge, regression test, component-level evaluation és baseline segítségével mérj.

12. Cost and Latency ¶

Értsd meg a token economicsot, model-call latencyt, time to first tokent, streaminget, routingot, cachinget, retryt, agent-loop multiplicationt, cost budgetet, latency budgetet és end-to-end optimizationt.

13. Safety and Trust Boundaries ¶

A model outputot és external contentet kezeld untrustedként. Prompt injection, authorization, least privilege, safe tool, secret, tenant isolation, memory poisoning, sandboxing, side-effect control és auditability tartozik ide.

14. AI Application Mental Model ¶

Rakd össze az előző fogalmakat egy software architecture mentális modellé, amelyben az LLM csak egy probabilisztikus komponens determinisztikus application logic, retrieval, tools, state, validation, security, observability és evaluation mellett.

Tanulási sorrend¶

Foundation státusz¶

First-draft mélységben kész.

Az egyes dokumentumok a felmerülő kérdésekkel tovább fejlődhetnek, de a teljes foundation térkép részletes első lefedettsége elkészült.

Lehetséges következő területek¶

RAG és retrieval architecture
MCP
AI / agent skills
agentic loops
agent state és memory
workflow engines és durable execution
agent architecture
mélyebb production evaluation és observability