Installieren und führen Sie Ihre erste Sitzung aus

Zwei Clients, zwei erste Aufrufe. Wählen Sie den, der zu dem Ort passt, an dem Ihr Code läuft; die SDK-Übersicht erklärt den Unterschied.

Headless: ein Aufruf von überall

1. 1
   Erstellen Sie einen API-Schlüssel unter Einstellungen im Bereich API-Schlüssel in Ihrem Dashboard. Er sieht aus wie dsk_live_... und wird nur einmal angezeigt.
2. 2
   Installieren Sie das SDK: npm install @blankline/dropstone-sdk.
3. 3
   Legen Sie den Schlüssel in der Umgebung als DROPSTONE_API_KEY ab. Behandeln Sie ihn wie ein Passwort: Committen Sie ihn niemals und liefern Sie ihn niemals in einem Browser-Bundle aus.
4. Rufen Sie ihn auf. Der Client liest die Umgebungsvariable selbstständig.

import { createDropstoneApi } from "@blankline/dropstone-sdk"

const dropstone = createDropstoneApi()

const resp = await dropstone.chat.completions.create({
  model: "dropstone-fast",
  messages: [{ role: "user", content: "Summarise this changelog entry." }],
})

console.log(resp.choices[0].message.content)

Fügen Sie stream: true hinzu und derselbe Aufruf gibt einen asynchronen Iterator von Chunks zurück, was Sie in einer UI oder bei einer langen Antwort wünschen:

const stream = await dropstone.chat.completions.create({
  model: "dropstone-fast",
  stream: true,
  messages: [{ role: "user", content: "Count to five." }],
})

for await (const chunk of stream) {
  process.stdout.write(chunk.choices?.[0]?.delta?.content ?? "")
}

Der Endpunkt ist OpenAI-kompatibel, sodass ein bestehender Client funktioniert, indem er auf Dropstone zeigt:

import OpenAI from "openai"

const openai = new OpenAI({
  baseURL: "https://api.dropstone.io/api/v1",
  apiKey: process.env.DROPSTONE_API_KEY,
})

API-Schlüssel-Anfragen werden nutzungsbasiert von Ihrem Guthaben abgerechnet, nicht von einem Plan-Kontingent, und ein Schlüssel mit leerem Guthaben wird mit einem Auflade-Link abgelehnt. Siehe Verwendung der API mit Ihrem Plan.

Lokal: der Agent in Ihrem Prozess

Der lokale Client startet einen dropstone serve-Prozess, übergibt Ihnen einen typisierten Client, der darauf zeigt, und schließt ihn, wenn Sie fertig sind. Da er als Ihr Konto läuft, tragen Sitzungen Ihr Gedächtnis.

1. 1
   Installieren Sie die Dropstone CLI und melden Sie sich mit dropstone login an. Das SDK liest dieselbe Anmeldung.
2. Erstellen Sie eine Sitzung und senden Sie ihr dann eine Eingabeaufforderung.

import { createDropstone } from "@blankline/dropstone-sdk"

const { client, server } = await createDropstone()

const session = await client.session.create({
  body: { agent: "build", model: { providerID: "dropstone", modelID: "dropstone-pro" } },
})

const reply = await client.session.prompt({
  path: { id: session.data.id },
  body: { parts: [{ type: "text", text: "Hello, who are you?" }] },
})

console.log(reply.data)
await server.close()

Wenn bereits ein Server läuft, überspringen Sie das Starten:

import { createDropstoneClient } from "@blankline/dropstone-sdk"

const client = createDropstoneClient({ baseUrl: "http://127.0.0.1:4096" })

Tipps

• Pinnen Sie die Versionsspanne. Das SDK erscheint in schnellem Rhythmus, daher hängen Sie von einer getesteten Spanne ab, nicht vom neuesten Tag.
• Verwenden Sie v2 für neuen Code. @blankline/dropstone-sdk/v2 ist die Oberfläche, auf der neue Endpunkte landen; v1 bleibt für bestehende Integrationen.
• Halten Sie das Gelernte einer Pipeline aus Ihrem eigenen Gedächtnis heraus. Ein Headless-Aufruf hat kein Gedächtnis, und eine lokale Sitzung verwendet das Konto, mit dem Sie angemeldet sind. Wenn eine Integration ein eigenes Gedächtnis haben soll, geben Sie ihr ein eigenes Konto. Siehe Ein Gedächtnis auf jeder Oberfläche.

Einschränkungen

• Der lokale Client benötigt die CLI auf derselben Maschine; ein Host ohne sie sollte den Headless-Client verwenden.
• Der Headless-Endpunkt ist Chat-Completions. Die Agent-Schleife, Dateioperationen und Workspace-Tools sind auf dem lokalen Client.