Azure AI Foundry で作った gpt-4o モデルを API として Node-RED とやり取りするメモ

Posted on 2024-12-20

Azure AI Foundry で作った gpt-4o モデルを API として Node-RED とやり取りするメモです。

背景

2024/12/20 時点の情報で進めます。

Azure AI Foundry から gpt-4o モデルを使えたので、これを発展させてAPI として Node-RED とやり取りしてみます。

プロジェクトを確認すると、概要のところに、すぐ API キーがあります。

ちょうど API ドキュメントのリンクもあるので見てみます。

こちらです。

Completions を使ってみます。

POST https://{endpoint}/openai/deployments/{deployment-id}/completions?api-version=2024-10-21

こんなアクセスの仕方のようです。

{endpoint} はプロジェクトにある Azure OpenAI エンドポイントを使います。

{deployment-id} は、Deployment IDです。これをを確認するには、Azure AI Foundry ポータルにサインインし、モデルカタログから必要なモデルを選択します。モデルの詳細ページに Deployment ID が表示されます。

といいつつ、このあたり、私には分かりにくかったので最終的には、プロジェクトのマイアセット > モデル + エンドポイントを確認すると endpoint も deployment-id も設定されたエンドポイントが取得できます。

結果、Deployment ID は gpt-4o でした。あくまで私の場合です。

また、 HTTP Header には api-key が必要で、こちらから使います。

ほんとここは 2024/12/20 の情報です。今後整いそうです。

さて、送るデータなんですが、リンクにあった

のほうで、

{
 "prompt": [
  "tell me a joke about mango"
 ],
 "max_tokens": 32,
 "temperature": 1.0,
 "n": 1
}

で、素直にやっていたところ、Unsupported data type が来てしまってうまくいきませんでした。

const result = await client.chat.completions.create({ messages, model: '', max_tokens: 100 });

みたいに解説されていて、これはもしや本家の API Reference - OpenAI API のデータ形式である、

{
    "messages": [
      {
        "role": "user",
        "content": "Hello!"
      }
    ]
  }

みたいな形式がよさそうと推測しました。

結果当たっていたので、一旦はオッケー。

出来上がったフローはこちらです。 http request ノードで POST 送信をしつつ、その前の API 設定と書かれている change ノードで http request で送る設定をします。

API 設定と書かれている change ノードの設定です。

まず、

http request ノードの中身です。

で指定します。

inject ノードのボタンを押して動かします。

無事 API から返答が帰ってきて msg.payload.choices[0].message.content に返答が帰ってきました！