forked from phoenix/litellm-mirror
with ChatLlama
This commit is contained in:
ishaan-jaff
parent
acccf17e44
commit
0f7245d153
1 changed files with 330 additions and 12 deletions
|
|
@ -1,7 +1,6 @@
|
|||
{
|
||||
"cells": [
|
||||
{
|
||||
"attachments": {},
|
||||
"cell_type": "markdown",
|
||||
"metadata": {
|
||||
"id": "WemkFEdDAnJL"
|
||||
|
|
@ -13,18 +12,58 @@
|
|||
},
|
||||
{
|
||||
"cell_type": "code",
|
||||
"execution_count": null,
|
||||
"execution_count": 1,
|
||||
"metadata": {
|
||||
"id": "pc6IO4V99O25"
|
||||
"id": "pc6IO4V99O25",
|
||||
"colab": {
|
||||
"base_uri": "https://localhost:8080/"
|
||||
},
|
||||
"outputId": "2d69da44-010b-41c2-b38b-5b478576bb8b"
|
||||
},
|
||||
"outputs": [],
|
||||
"outputs": [
|
||||
{
|
||||
"output_type": "stream",
|
||||
"name": "stdout",
|
||||
"text": [
|
||||
"Collecting litellm\n",
|
||||
" Downloading litellm-0.1.482-py3-none-any.whl (69 kB)\n",
|
||||
"\u001b[2K \u001b[90m━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━\u001b[0m \u001b[32m69.3/69.3 kB\u001b[0m \u001b[31m757.5 kB/s\u001b[0m eta \u001b[36m0:00:00\u001b[0m\n",
|
||||
"\u001b[?25hRequirement already satisfied: importlib-metadata<7.0.0,>=6.8.0 in /usr/local/lib/python3.10/dist-packages (from litellm) (6.8.0)\n",
|
||||
"Collecting openai<0.28.0,>=0.27.8 (from litellm)\n",
|
||||
" Downloading openai-0.27.9-py3-none-any.whl (75 kB)\n",
|
||||
"\u001b[2K \u001b[90m━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━\u001b[0m \u001b[32m75.5/75.5 kB\u001b[0m \u001b[31m3.1 MB/s\u001b[0m eta \u001b[36m0:00:00\u001b[0m\n",
|
||||
"\u001b[?25hCollecting python-dotenv<2.0.0,>=1.0.0 (from litellm)\n",
|
||||
" Downloading python_dotenv-1.0.0-py3-none-any.whl (19 kB)\n",
|
||||
"Collecting tiktoken<0.5.0,>=0.4.0 (from litellm)\n",
|
||||
" Downloading tiktoken-0.4.0-cp310-cp310-manylinux_2_17_x86_64.manylinux2014_x86_64.whl (1.7 MB)\n",
|
||||
"\u001b[2K \u001b[90m━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━\u001b[0m \u001b[32m1.7/1.7 MB\u001b[0m \u001b[31m17.0 MB/s\u001b[0m eta \u001b[36m0:00:00\u001b[0m\n",
|
||||
"\u001b[?25hRequirement already satisfied: zipp>=0.5 in /usr/local/lib/python3.10/dist-packages (from importlib-metadata<7.0.0,>=6.8.0->litellm) (3.16.2)\n",
|
||||
"Requirement already satisfied: requests>=2.20 in /usr/local/lib/python3.10/dist-packages (from openai<0.28.0,>=0.27.8->litellm) (2.31.0)\n",
|
||||
"Requirement already satisfied: tqdm in /usr/local/lib/python3.10/dist-packages (from openai<0.28.0,>=0.27.8->litellm) (4.66.1)\n",
|
||||
"Requirement already satisfied: aiohttp in /usr/local/lib/python3.10/dist-packages (from openai<0.28.0,>=0.27.8->litellm) (3.8.5)\n",
|
||||
"Requirement already satisfied: regex>=2022.1.18 in /usr/local/lib/python3.10/dist-packages (from tiktoken<0.5.0,>=0.4.0->litellm) (2023.6.3)\n",
|
||||
"Requirement already satisfied: charset-normalizer<4,>=2 in /usr/local/lib/python3.10/dist-packages (from requests>=2.20->openai<0.28.0,>=0.27.8->litellm) (3.2.0)\n",
|
||||
"Requirement already satisfied: idna<4,>=2.5 in /usr/local/lib/python3.10/dist-packages (from requests>=2.20->openai<0.28.0,>=0.27.8->litellm) (3.4)\n",
|
||||
"Requirement already satisfied: urllib3<3,>=1.21.1 in /usr/local/lib/python3.10/dist-packages (from requests>=2.20->openai<0.28.0,>=0.27.8->litellm) (2.0.4)\n",
|
||||
"Requirement already satisfied: certifi>=2017.4.17 in /usr/local/lib/python3.10/dist-packages (from requests>=2.20->openai<0.28.0,>=0.27.8->litellm) (2023.7.22)\n",
|
||||
"Requirement already satisfied: attrs>=17.3.0 in /usr/local/lib/python3.10/dist-packages (from aiohttp->openai<0.28.0,>=0.27.8->litellm) (23.1.0)\n",
|
||||
"Requirement already satisfied: multidict<7.0,>=4.5 in /usr/local/lib/python3.10/dist-packages (from aiohttp->openai<0.28.0,>=0.27.8->litellm) (6.0.4)\n",
|
||||
"Requirement already satisfied: async-timeout<5.0,>=4.0.0a3 in /usr/local/lib/python3.10/dist-packages (from aiohttp->openai<0.28.0,>=0.27.8->litellm) (4.0.3)\n",
|
||||
"Requirement already satisfied: yarl<2.0,>=1.0 in /usr/local/lib/python3.10/dist-packages (from aiohttp->openai<0.28.0,>=0.27.8->litellm) (1.9.2)\n",
|
||||
"Requirement already satisfied: frozenlist>=1.1.1 in /usr/local/lib/python3.10/dist-packages (from aiohttp->openai<0.28.0,>=0.27.8->litellm) (1.4.0)\n",
|
||||
"Requirement already satisfied: aiosignal>=1.1.2 in /usr/local/lib/python3.10/dist-packages (from aiohttp->openai<0.28.0,>=0.27.8->litellm) (1.3.1)\n",
|
||||
"Installing collected packages: python-dotenv, tiktoken, openai, litellm\n",
|
||||
"Successfully installed litellm-0.1.482 openai-0.27.9 python-dotenv-1.0.0 tiktoken-0.4.0\n"
|
||||
]
|
||||
}
|
||||
],
|
||||
"source": [
|
||||
"!pip install litellm==0.1.419"
|
||||
"!pip install litellm"
|
||||
]
|
||||
},
|
||||
{
|
||||
"cell_type": "code",
|
||||
"execution_count": 3,
|
||||
"execution_count": 2,
|
||||
"metadata": {
|
||||
"id": "TMI3739_9q97"
|
||||
},
|
||||
|
|
@ -38,7 +77,6 @@
|
|||
]
|
||||
},
|
||||
{
|
||||
"attachments": {},
|
||||
"cell_type": "markdown",
|
||||
"metadata": {
|
||||
"id": "bEqJ2HHjBJqq"
|
||||
|
|
@ -50,7 +88,7 @@
|
|||
},
|
||||
{
|
||||
"cell_type": "code",
|
||||
"execution_count": 4,
|
||||
"execution_count": null,
|
||||
"metadata": {
|
||||
"colab": {
|
||||
"base_uri": "https://localhost:8080/"
|
||||
|
|
@ -95,7 +133,50 @@
|
|||
]
|
||||
},
|
||||
{
|
||||
"attachments": {},
|
||||
"cell_type": "code",
|
||||
"source": [
|
||||
"model_name = \"togethercomputer/CodeLlama-34b-Instruct\"\n",
|
||||
"response = completion(model=model_name, messages=messages, max_tokens=200)\n",
|
||||
"print(response)"
|
||||
],
|
||||
"metadata": {
|
||||
"colab": {
|
||||
"base_uri": "https://localhost:8080/"
|
||||
},
|
||||
"id": "GIUevHlMvPb8",
|
||||
"outputId": "ad930a12-16e3-4400-fff4-38151e4f6da5"
|
||||
},
|
||||
"execution_count": 4,
|
||||
"outputs": [
|
||||
{
|
||||
"output_type": "stream",
|
||||
"name": "stdout",
|
||||
"text": [
|
||||
"\u001b[92mHere's your LiteLLM Dashboard 👉 \u001b[94m\u001b[4mhttps://admin.litellm.ai/6c0f0403-becb-44af-9724-7201c7d381d0\u001b[0m\n",
|
||||
"{\n",
|
||||
" \"choices\": [\n",
|
||||
" {\n",
|
||||
" \"finish_reason\": \"stop\",\n",
|
||||
" \"index\": 0,\n",
|
||||
" \"message\": {\n",
|
||||
" \"content\": \"\\nI'm in San Francisco, and I'm not sure what the weather is like.\\nI'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and\",\n",
|
||||
" \"role\": \"assistant\"\n",
|
||||
" }\n",
|
||||
" }\n",
|
||||
" ],\n",
|
||||
" \"created\": 1692934243.8663018,\n",
|
||||
" \"model\": \"togethercomputer/CodeLlama-34b-Instruct\",\n",
|
||||
" \"usage\": {\n",
|
||||
" \"prompt_tokens\": 9,\n",
|
||||
" \"completion_tokens\": 178,\n",
|
||||
" \"total_tokens\": 187\n",
|
||||
" }\n",
|
||||
"}\n"
|
||||
]
|
||||
}
|
||||
]
|
||||
},
|
||||
{
|
||||
"cell_type": "markdown",
|
||||
"metadata": {
|
||||
"id": "sfWtgf-mBQcM"
|
||||
|
|
@ -109,10 +190,11 @@
|
|||
"execution_count": null,
|
||||
"metadata": {
|
||||
"colab": {
|
||||
"background_save": true,
|
||||
"base_uri": "https://localhost:8080/"
|
||||
},
|
||||
"id": "wuBhlZtC6MH5",
|
||||
"outputId": "1bedc981-4ab1-4abd-9b81-a9727223b66a"
|
||||
"outputId": "8f4a408c-25eb-4434-cdd4-7b4ae4f6d3aa"
|
||||
},
|
||||
"outputs": [
|
||||
{
|
||||
|
|
@ -649,7 +731,243 @@
|
|||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' provide'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' fund'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'ing'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}\n"
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' its'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' port'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'folio'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' companies'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' but'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' instead'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' focus'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'es'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' on'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' connecting'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' found'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'ers'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' with'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' invest'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'ors'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' resources'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' can'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' help'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' them'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' raise'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' capital'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' This'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' means'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' if'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' looking'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' fund'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'ing'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' Y'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'C'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' may'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' be'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' better'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' option'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '\\n'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '\\n'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'So'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' which'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' program'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' right'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '?'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' It'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' ultimately'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' depends'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' on'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' specific'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' needs'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' goals'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' If'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' in'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' non'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '-'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'tech'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' industry'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' l'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': \"'\"}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 's'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' bro'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'ader'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' focus'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' may'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' be'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' better'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' fit'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' Additionally'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' if'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' you'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': \"'\"}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 're'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' looking'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' more'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' personal'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'ized'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' flexible'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' approach'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' acceleration'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' l'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': \"'\"}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 's'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' program'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' may'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' be'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' better'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' choice'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' On'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' other'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' hand'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' if'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' in'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' software'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' technology'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' or'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' internet'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' space'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' you'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': \"'\"}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 're'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' looking'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' seed'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' fund'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'ing'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' Y'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'C'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': \"'\"}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 's'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' program'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' may'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' be'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' better'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' fit'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '\\n'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '\\n'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'In'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' conclusion'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' Y'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'C'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' l'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' are'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' both'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' excellent'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' acceler'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'ators'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' can'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' provide'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' valuable'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' resources'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' support'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' early'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '-'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'stage'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' companies'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' While'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' they'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' share'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' some'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' similar'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 'ities'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' they'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' also'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' have'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' distinct'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' differences'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' set'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' them'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' apart'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' By'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' considering'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': \"'\"}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': 's'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' specific'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' needs'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' goals'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' you'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' can'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' determine'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' which'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' program'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' best'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' fit'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': ' business'}}]}\n",
|
||||
"{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}\n"
|
||||
]
|
||||
}
|
||||
],
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue