Model Grok Code Fast 1 od xAI zaujme rýchlosťou a nízkou cenou

Grok Code Fast 1 je nový superrýchly a ekonomický LLM model vyvinutý tímom xAI, optimalizovaný pre agentické kódovanie, generovanie kódu a ladenie. Disponuje veľkým kontextovým oknom až 256 tisíc tokenov a využíva architektúru Mixture-of-Experts (MoE) s 314 miliardami parametrov, čo mu umožňuje zvládať komplexné projekty.

Tento model dosahuje rýchlosť generovania približne 92 tokenov za sekundu. V súčasnosti je dostupný zdarma s veľmi nízkymi cenami pri väčšom objeme použitia. Uvádzacie ceny sú 20 centov za milión tokenov pre vstupné dáta a 1,5 dolárov za výstupné dáta. Tieto ceny sú nižšie ako u modelu DeepSeek, pričom rýchlosť Grok Code Fast 1 modelu je výrazne vyššia.

Model je už dostupný na VS Code pluginoch Kilo Code a Copilot. Tieto poskytujú dostup k modelu zadarmo na určitú testovaciu fázu.

Prístup k modelu cez API je možný prostredníctvom OpenRouteru. Nasledujúci príklad ukazuje použitie modelu Grok Code Fast 1 cez OpenRouter API na generovanie HTML kódu pre klasický „holy grail“ layout. Používa sa C# a knižnica semantic kernel:

using Microsoft.SemanticKernel;

var apiKey = Environment.GetEnvironmentVariable("OPENROUTER_API_KEY");
if (string.IsNullOrEmpty(apiKey))
{
    Console.WriteLine("Please set the OPENROUTER_API_KEY environment variable.");
    return;
}

var builder = Kernel.CreateBuilder();
builder.AddOpenAIChatCompletion(
    modelId: "x-ai/grok-code-fast-1",
    apiKey: apiKey,
    endpoint: new Uri("https://openrouter.ai/api/v1")
);

var kernel = builder.Build();

var prompt = @"
Generate a complete HTML file for a 'Holy Grail' layout. The layout should include:
- A header at the top
- A footer at the bottom
- A left sidebar
- A main content area in the center
- A right sidebar

Use CSS Grid or Flexbox for the layout. Make it responsive and include some basic styling.
Provide only the HTML code, no explanations.
";

var result = await kernel.InvokePromptAsync(prompt);

var htmlContent = result.ToString();

// Strip markdown code blocks from start and end
var cleanedHtml = htmlContent.StartsWith("```html") && htmlContent.EndsWith("```")
    ? htmlContent[7..^3].Trim()
    : htmlContent.Trim();

await File.WriteAllTextAsync("holy_grail.html", cleanedHtml);

Console.WriteLine("HTML file generated: holy_grail.html");

Model Grok Code Fast 1 bol nedávno v stealth režime dostupný na testovanie pod pseudonymom Sonic.