AI Workflow & Tools

Proč lokální AI? Žádné odesílání dat do cloudu, nulová latence, žádné měsíční poplatky. Ideální pro práci s citlivým materiálem (scénáře, hrubé střihy).

1. Příprava prostředí (WSL2 / Linux)

  • C:\> wsl --install # Instalace defaultního distra (Ubuntu) ve Windows
  • $ sudo apt update && sudo apt upgrade # Aktualizace systému
  • $ sudo apt install python3-pip python3-venv ffmpeg # Základní prerekvizity (Python + FFmpeg)
  • $ nvidia-smi # Kontrola ovladačů GPU (zda vidí grafiku pro CUDA)

2. Ollama (Local LLM Server)

Nejjednodušší způsob, jak rozběhat Llama 3, Mistral nebo Gemma lokálně.

  • $ curl -fsSL https://ollama.com/install.sh | sh # Instalace Ollama
  • $ ollama pull llama3 # Stažení modelu Llama 3 (cca 4.7 GB)
  • $ ollama run llama3 # Spuštění chatu v terminálu
  • $ ollama serve # Spuštění API serveru (pro aplikace třetích stran)

3. Fabric (AI Patterns)

Framework od Daniela Miesslera pro efektivní využívání LLM pomocí "patterns".

  • $ sudo apt install pipx # Instalace správce balíčků
  • $ git clone https://github.com/danielmiessler/fabric.git # Stažení repozitáře
  • $ cd fabric && pipx install . # Instalace Fabricu
  • $ fabric --setup # Nastavení (API klíče pro OpenAI / YouTube)
  • Praktické využití:
    $ yt --transcript "https://youtube.com/..." | fabric --pattern extract_wisdom
    # Vytáhne moudrost z videa a udělá shrnutí

4. Whisper (Titulky & Přepis pro Filmaře)

OpenAI Whisper běží lokálně a umí přepsat audio do textu s brutální přesností. Skvělé pro tvorbu titulků k rozhovorům.

  • $ pip install openai-whisper # Instalace toolu
  • $ whisper interview.wav --model medium --language Czech
    # Vygeneruje text (.txt) i titulky (.srt) v češtině
  • $ whisper audio.mp3 --model large --task translate
    # Přeloží české audio rovnou do anglických titulků