mirror of
https://github.com/meta-llama/llama-stack.git
synced 2025-12-03 09:53:45 +00:00
chore(ci): remove unused recordings (#4074)
Added a script to cleanup recordings. While doing this, moved the CI matrix generation to a separate script so there is a single source of truth for the matrix. Ran the cleanup script as: ``` PYTHONPATH=. python scripts/cleanup_recordings.py ``` Also added this as part of the pre-commit workflow to ensure that the recordings are always up to date and that no stale recordings are left in the repo.
This commit is contained in:
parent
0d525d9a24
commit
8c918a132e
498 changed files with 380 additions and 370287 deletions
36
.github/workflows/integration-tests.yml
vendored
36
.github/workflows/integration-tests.yml
vendored
|
|
@ -22,6 +22,8 @@ on:
|
||||||
- '.github/actions/setup-ollama/action.yml'
|
- '.github/actions/setup-ollama/action.yml'
|
||||||
- '.github/actions/setup-test-environment/action.yml'
|
- '.github/actions/setup-test-environment/action.yml'
|
||||||
- '.github/actions/run-and-record-tests/action.yml'
|
- '.github/actions/run-and-record-tests/action.yml'
|
||||||
|
- 'scripts/integration-tests.sh'
|
||||||
|
- 'scripts/generate_ci_matrix.py'
|
||||||
schedule:
|
schedule:
|
||||||
# If changing the cron schedule, update the provider in the test-matrix job
|
# If changing the cron schedule, update the provider in the test-matrix job
|
||||||
- cron: '0 0 * * *' # (test latest client) Daily at 12 AM UTC
|
- cron: '0 0 * * *' # (test latest client) Daily at 12 AM UTC
|
||||||
|
|
@ -43,8 +45,27 @@ concurrency:
|
||||||
cancel-in-progress: true
|
cancel-in-progress: true
|
||||||
|
|
||||||
jobs:
|
jobs:
|
||||||
|
generate-matrix:
|
||||||
|
runs-on: ubuntu-latest
|
||||||
|
outputs:
|
||||||
|
matrix: ${{ steps.set-matrix.outputs.matrix }}
|
||||||
|
steps:
|
||||||
|
- name: Checkout repository
|
||||||
|
uses: actions/checkout@08c6903cd8c0fde910a37f88322edcfb5dd907a8 # v5.0.0
|
||||||
|
|
||||||
|
- name: Generate test matrix
|
||||||
|
id: set-matrix
|
||||||
|
run: |
|
||||||
|
# Generate matrix from CI_MATRIX in tests/integration/suites.py
|
||||||
|
# Supports schedule-based and manual input overrides
|
||||||
|
MATRIX=$(PYTHONPATH=. python3 scripts/generate_ci_matrix.py \
|
||||||
|
--schedule "${{ github.event.schedule }}" \
|
||||||
|
--test-setup "${{ github.event.inputs.test-setup }}")
|
||||||
|
echo "matrix=$MATRIX" >> $GITHUB_OUTPUT
|
||||||
|
echo "Generated matrix: $MATRIX"
|
||||||
|
|
||||||
run-replay-mode-tests:
|
run-replay-mode-tests:
|
||||||
|
needs: generate-matrix
|
||||||
runs-on: ubuntu-latest
|
runs-on: ubuntu-latest
|
||||||
name: ${{ format('Integration Tests ({0}, {1}, {2}, client={3}, {4})', matrix.client-type, matrix.config.setup, matrix.python-version, matrix.client-version, matrix.config.suite) }}
|
name: ${{ format('Integration Tests ({0}, {1}, {2}, client={3}, {4})', matrix.client-type, matrix.config.setup, matrix.python-version, matrix.client-version, matrix.config.suite) }}
|
||||||
|
|
||||||
|
|
@ -55,18 +76,9 @@ jobs:
|
||||||
# Use Python 3.13 only on nightly schedule (daily latest client test), otherwise use 3.12
|
# Use Python 3.13 only on nightly schedule (daily latest client test), otherwise use 3.12
|
||||||
python-version: ${{ github.event.schedule == '0 0 * * *' && fromJSON('["3.12", "3.13"]') || fromJSON('["3.12"]') }}
|
python-version: ${{ github.event.schedule == '0 0 * * *' && fromJSON('["3.12", "3.13"]') || fromJSON('["3.12"]') }}
|
||||||
client-version: ${{ (github.event.schedule == '0 0 * * *' || github.event.inputs.test-all-client-versions == 'true') && fromJSON('["published", "latest"]') || fromJSON('["latest"]') }}
|
client-version: ${{ (github.event.schedule == '0 0 * * *' || github.event.inputs.test-all-client-versions == 'true') && fromJSON('["published", "latest"]') || fromJSON('["latest"]') }}
|
||||||
# Define (setup, suite) pairs - they are always matched and cannot be independent
|
# Test configurations: Generated from CI_MATRIX in tests/integration/suites.py
|
||||||
# Weekly schedule (Sun 1 AM): vllm+base
|
# See scripts/generate_ci_matrix.py for generation logic
|
||||||
# Input test-setup=ollama-vision: ollama-vision+vision
|
config: ${{ fromJSON(needs.generate-matrix.outputs.matrix).include }}
|
||||||
# Default (including test-setup=ollama): ollama+base, ollama-vision+vision, gpt+responses
|
|
||||||
config: >-
|
|
||||||
${{
|
|
||||||
github.event.schedule == '1 0 * * 0'
|
|
||||||
&& fromJSON('[{"setup": "vllm", "suite": "base"}]')
|
|
||||||
|| github.event.inputs.test-setup == 'ollama-vision'
|
|
||||||
&& fromJSON('[{"setup": "ollama-vision", "suite": "vision"}]')
|
|
||||||
|| fromJSON('[{"setup": "ollama", "suite": "base"}, {"setup": "ollama-vision", "suite": "vision"}]')
|
|
||||||
}}
|
|
||||||
|
|
||||||
steps:
|
steps:
|
||||||
- name: Checkout repository
|
- name: Checkout repository
|
||||||
|
|
|
||||||
11
.github/workflows/pre-commit.yml
vendored
11
.github/workflows/pre-commit.yml
vendored
|
|
@ -166,3 +166,14 @@ jobs:
|
||||||
echo "::error::Full mypy failed. Reproduce locally with 'uv run pre-commit run mypy-full --hook-stage manual --all-files'."
|
echo "::error::Full mypy failed. Reproduce locally with 'uv run pre-commit run mypy-full --hook-stage manual --all-files'."
|
||||||
fi
|
fi
|
||||||
exit $status
|
exit $status
|
||||||
|
|
||||||
|
- name: Check if any unused recordings
|
||||||
|
run: |
|
||||||
|
set -e
|
||||||
|
PYTHONPATH=$PWD uv run ./scripts/cleanup_recordings.py --delete
|
||||||
|
changes=$(git status --short tests/integration | grep 'recordings' || true)
|
||||||
|
if [ -n "$changes" ]; then
|
||||||
|
echo "::error::Unused integration recordings detected. Run 'PYTHONPATH=$(pwd) uv run ./scripts/cleanup_recordings.py --delete' locally and commit the deletions."
|
||||||
|
echo "$changes"
|
||||||
|
exit 1
|
||||||
|
fi
|
||||||
|
|
|
||||||
272
scripts/cleanup_recordings.py
Executable file
272
scripts/cleanup_recordings.py
Executable file
|
|
@ -0,0 +1,272 @@
|
||||||
|
#!/usr/bin/env python3
|
||||||
|
# Copyright (c) Meta Platforms, Inc. and affiliates.
|
||||||
|
# All rights reserved.
|
||||||
|
#
|
||||||
|
# This source code is licensed under the terms described in the LICENSE file in
|
||||||
|
# the root directory of this source tree.
|
||||||
|
|
||||||
|
"""
|
||||||
|
Clean up unused test recordings based on CI test collection.
|
||||||
|
|
||||||
|
This script:
|
||||||
|
1. Reads CI matrix definitions from tests/integration/ci_matrix.json (default + scheduled overrides)
|
||||||
|
2. Uses pytest --collect-only with --json-report to gather all test IDs that run in CI
|
||||||
|
3. Compares against existing recordings to identify unused ones
|
||||||
|
4. Optionally deletes unused recordings
|
||||||
|
|
||||||
|
Usage:
|
||||||
|
# Dry run - see what would be deleted
|
||||||
|
./scripts/cleanup_recordings.py
|
||||||
|
|
||||||
|
# Save manifest of CI test IDs for inspection
|
||||||
|
./scripts/cleanup_recordings.py --manifest ci_tests.txt
|
||||||
|
|
||||||
|
# Actually delete unused recordings
|
||||||
|
./scripts/cleanup_recordings.py --delete
|
||||||
|
"""
|
||||||
|
|
||||||
|
import argparse
|
||||||
|
import json
|
||||||
|
import os
|
||||||
|
import subprocess
|
||||||
|
import tempfile
|
||||||
|
from collections import defaultdict
|
||||||
|
from pathlib import Path
|
||||||
|
|
||||||
|
REPO_ROOT = Path(__file__).parent.parent
|
||||||
|
|
||||||
|
# Load CI matrix from JSON file
|
||||||
|
CI_MATRIX_FILE = REPO_ROOT / "tests/integration/ci_matrix.json"
|
||||||
|
with open(CI_MATRIX_FILE) as f:
|
||||||
|
_matrix_config = json.load(f)
|
||||||
|
|
||||||
|
DEFAULT_CI_MATRIX: list[dict[str, str]] = _matrix_config["default"]
|
||||||
|
SCHEDULED_MATRICES: dict[str, list[dict[str, str]]] = _matrix_config.get("schedules", {})
|
||||||
|
|
||||||
|
|
||||||
|
def _unique_configs(entries):
|
||||||
|
seen: set[tuple[str, str]] = set()
|
||||||
|
for entry in entries:
|
||||||
|
suite = entry["suite"]
|
||||||
|
setup = entry["setup"]
|
||||||
|
key = (suite, setup)
|
||||||
|
if key in seen:
|
||||||
|
continue
|
||||||
|
seen.add(key)
|
||||||
|
yield {"suite": suite, "setup": setup}
|
||||||
|
|
||||||
|
|
||||||
|
def iter_all_ci_configs() -> list[dict[str, str]]:
|
||||||
|
"""Return unique CI configs across default and scheduled matrices."""
|
||||||
|
combined = list(DEFAULT_CI_MATRIX)
|
||||||
|
for configs in SCHEDULED_MATRICES.values():
|
||||||
|
combined.extend(configs)
|
||||||
|
return list(_unique_configs(combined))
|
||||||
|
|
||||||
|
|
||||||
|
def collect_ci_tests():
|
||||||
|
"""Collect all test IDs that would run in CI using --collect-only with JSON output."""
|
||||||
|
|
||||||
|
all_test_ids = set()
|
||||||
|
configs = iter_all_ci_configs()
|
||||||
|
|
||||||
|
for config in configs:
|
||||||
|
print(f"Collecting tests for suite={config['suite']}, setup={config['setup']}...")
|
||||||
|
|
||||||
|
# Create a temporary file for JSON report
|
||||||
|
with tempfile.NamedTemporaryFile(mode="w", suffix=".json", delete=False) as f:
|
||||||
|
json_report_file = f.name
|
||||||
|
|
||||||
|
try:
|
||||||
|
# Configure environment for collection run
|
||||||
|
env = os.environ.copy()
|
||||||
|
env["PYTEST_ADDOPTS"] = f"--json-report --json-report-file={json_report_file}"
|
||||||
|
repo_path = str(REPO_ROOT)
|
||||||
|
existing_path = env.get("PYTHONPATH", "")
|
||||||
|
env["PYTHONPATH"] = f"{repo_path}{os.pathsep}{existing_path}" if existing_path else repo_path
|
||||||
|
|
||||||
|
result = subprocess.run(
|
||||||
|
[
|
||||||
|
"./scripts/integration-tests.sh",
|
||||||
|
"--collect-only",
|
||||||
|
"--suite",
|
||||||
|
config["suite"],
|
||||||
|
"--setup",
|
||||||
|
config["setup"],
|
||||||
|
],
|
||||||
|
capture_output=True,
|
||||||
|
text=True,
|
||||||
|
cwd=REPO_ROOT,
|
||||||
|
env=env,
|
||||||
|
)
|
||||||
|
|
||||||
|
if result.returncode != 0:
|
||||||
|
raise RuntimeError(
|
||||||
|
"Test collection failed.\n"
|
||||||
|
f"Command: {' '.join(result.args)}\n"
|
||||||
|
f"stdout:\n{result.stdout}\n"
|
||||||
|
f"stderr:\n{result.stderr}"
|
||||||
|
)
|
||||||
|
|
||||||
|
# Parse JSON report to extract test IDs
|
||||||
|
try:
|
||||||
|
with open(json_report_file) as f:
|
||||||
|
report = json.load(f)
|
||||||
|
|
||||||
|
# The "collectors" field contains collected test items
|
||||||
|
# Each collector has a "result" array with test node IDs
|
||||||
|
for collector in report.get("collectors", []):
|
||||||
|
for item in collector.get("result", []):
|
||||||
|
# The "nodeid" field is the test ID
|
||||||
|
if "nodeid" in item:
|
||||||
|
all_test_ids.add(item["nodeid"])
|
||||||
|
|
||||||
|
print(f" Collected {len(all_test_ids)} test IDs so far")
|
||||||
|
|
||||||
|
except (json.JSONDecodeError, FileNotFoundError) as e:
|
||||||
|
print(f" Warning: Failed to parse JSON report: {e}")
|
||||||
|
continue
|
||||||
|
|
||||||
|
finally:
|
||||||
|
# Clean up temp file
|
||||||
|
if os.path.exists(json_report_file):
|
||||||
|
os.unlink(json_report_file)
|
||||||
|
|
||||||
|
print(f"\nTotal unique test IDs collected: {len(all_test_ids)}")
|
||||||
|
return all_test_ids, configs
|
||||||
|
|
||||||
|
|
||||||
|
def get_base_test_id(test_id: str) -> str:
|
||||||
|
"""Extract base test ID without parameterization.
|
||||||
|
|
||||||
|
Example:
|
||||||
|
'tests/integration/inference/test_foo.py::test_bar[param1-param2]'
|
||||||
|
-> 'tests/integration/inference/test_foo.py::test_bar'
|
||||||
|
"""
|
||||||
|
return test_id.split("[")[0] if "[" in test_id else test_id
|
||||||
|
|
||||||
|
|
||||||
|
def find_all_recordings():
|
||||||
|
"""Find all recording JSON files."""
|
||||||
|
return list((REPO_ROOT / "tests/integration").rglob("recordings/*.json"))
|
||||||
|
|
||||||
|
|
||||||
|
def analyze_recordings(ci_test_ids, dry_run=True):
|
||||||
|
"""Analyze recordings and identify unused ones."""
|
||||||
|
|
||||||
|
# Use full test IDs with parameterization for exact matching
|
||||||
|
all_recordings = find_all_recordings()
|
||||||
|
print(f"\nTotal recording files: {len(all_recordings)}")
|
||||||
|
|
||||||
|
# Categorize recordings
|
||||||
|
used_recordings = []
|
||||||
|
unused_recordings = []
|
||||||
|
shared_recordings = [] # model-list endpoints without test_id
|
||||||
|
parse_errors = []
|
||||||
|
|
||||||
|
for json_file in all_recordings:
|
||||||
|
try:
|
||||||
|
with open(json_file) as f:
|
||||||
|
data = json.load(f)
|
||||||
|
|
||||||
|
test_id = data.get("test_id", "")
|
||||||
|
|
||||||
|
if not test_id:
|
||||||
|
# Shared/infrastructure recordings (model lists, etc)
|
||||||
|
shared_recordings.append(json_file)
|
||||||
|
continue
|
||||||
|
|
||||||
|
# Match exact test_id (with full parameterization)
|
||||||
|
if test_id in ci_test_ids:
|
||||||
|
used_recordings.append(json_file)
|
||||||
|
else:
|
||||||
|
unused_recordings.append((json_file, test_id))
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
parse_errors.append((json_file, str(e)))
|
||||||
|
|
||||||
|
# Print summary
|
||||||
|
print("\nRecording Analysis:")
|
||||||
|
print(f" Used in CI: {len(used_recordings)}")
|
||||||
|
print(f" Shared (no ID): {len(shared_recordings)}")
|
||||||
|
print(f" UNUSED: {len(unused_recordings)}")
|
||||||
|
print(f" Parse errors: {len(parse_errors)}")
|
||||||
|
|
||||||
|
if unused_recordings:
|
||||||
|
print("\nUnused recordings by test:")
|
||||||
|
|
||||||
|
# Group by base test ID
|
||||||
|
by_test = defaultdict(list)
|
||||||
|
for file, test_id in unused_recordings:
|
||||||
|
base = get_base_test_id(test_id)
|
||||||
|
by_test[base].append(file)
|
||||||
|
|
||||||
|
for base_test, files in sorted(by_test.items()):
|
||||||
|
print(f"\n {base_test}")
|
||||||
|
print(f" ({len(files)} recording(s))")
|
||||||
|
for f in files[:3]:
|
||||||
|
print(f" - {f.relative_to(REPO_ROOT / 'tests/integration')}")
|
||||||
|
if len(files) > 3:
|
||||||
|
print(f" ... and {len(files) - 3} more")
|
||||||
|
|
||||||
|
if parse_errors:
|
||||||
|
print("\nParse errors:")
|
||||||
|
for file, error in parse_errors[:5]:
|
||||||
|
print(f" {file.relative_to(REPO_ROOT)}: {error}")
|
||||||
|
if len(parse_errors) > 5:
|
||||||
|
print(f" ... and {len(parse_errors) - 5} more")
|
||||||
|
|
||||||
|
# Perform cleanup
|
||||||
|
if not dry_run:
|
||||||
|
print(f"\nDeleting {len(unused_recordings)} unused recordings...")
|
||||||
|
for file, _ in unused_recordings:
|
||||||
|
file.unlink()
|
||||||
|
print(f" Deleted: {file.relative_to(REPO_ROOT / 'tests/integration')}")
|
||||||
|
print("✅ Cleanup complete")
|
||||||
|
else:
|
||||||
|
print("\n(Dry run - no files deleted)")
|
||||||
|
print("\nTo delete these files, run with --delete")
|
||||||
|
|
||||||
|
return len(unused_recordings)
|
||||||
|
|
||||||
|
|
||||||
|
def main():
|
||||||
|
parser = argparse.ArgumentParser(
|
||||||
|
description="Clean up unused test recordings based on CI test collection",
|
||||||
|
formatter_class=argparse.RawDescriptionHelpFormatter,
|
||||||
|
epilog=__doc__,
|
||||||
|
)
|
||||||
|
parser.add_argument("--delete", action="store_true", help="Actually delete unused recordings (default is dry-run)")
|
||||||
|
parser.add_argument("--manifest", help="Save collected test IDs to file (optional)")
|
||||||
|
|
||||||
|
args = parser.parse_args()
|
||||||
|
|
||||||
|
print("=" * 60)
|
||||||
|
print("Recording Cleanup Utility")
|
||||||
|
print("=" * 60)
|
||||||
|
|
||||||
|
ci_configs = iter_all_ci_configs()
|
||||||
|
|
||||||
|
print(f"\nDetected CI configurations: {len(ci_configs)}")
|
||||||
|
for config in ci_configs:
|
||||||
|
print(f" - suite={config['suite']}, setup={config['setup']}")
|
||||||
|
|
||||||
|
# Collect test IDs from CI configurations
|
||||||
|
ci_test_ids, _ = collect_ci_tests()
|
||||||
|
|
||||||
|
if args.manifest:
|
||||||
|
with open(args.manifest, "w") as f:
|
||||||
|
for test_id in sorted(ci_test_ids):
|
||||||
|
f.write(f"{test_id}\n")
|
||||||
|
print(f"\nSaved test IDs to: {args.manifest}")
|
||||||
|
|
||||||
|
# Analyze and cleanup
|
||||||
|
unused_count = analyze_recordings(ci_test_ids, dry_run=not args.delete)
|
||||||
|
|
||||||
|
print("\n" + "=" * 60)
|
||||||
|
if unused_count > 0 and not args.delete:
|
||||||
|
print("Run with --delete to remove unused recordings")
|
||||||
|
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
main()
|
||||||
61
scripts/generate_ci_matrix.py
Executable file
61
scripts/generate_ci_matrix.py
Executable file
|
|
@ -0,0 +1,61 @@
|
||||||
|
#!/usr/bin/env python3
|
||||||
|
# Copyright (c) Meta Platforms, Inc. and affiliates.
|
||||||
|
# All rights reserved.
|
||||||
|
#
|
||||||
|
# This source code is licensed under the terms described in the LICENSE file in
|
||||||
|
# the root directory of this source tree.
|
||||||
|
|
||||||
|
"""
|
||||||
|
Generate CI test matrix from ci_matrix.json with schedule/input overrides.
|
||||||
|
|
||||||
|
This script is used by .github/workflows/integration-tests.yml to generate
|
||||||
|
the test matrix dynamically based on the CI_MATRIX definition.
|
||||||
|
"""
|
||||||
|
|
||||||
|
import json
|
||||||
|
from pathlib import Path
|
||||||
|
|
||||||
|
CI_MATRIX_FILE = Path(__file__).parent.parent / "tests/integration/ci_matrix.json"
|
||||||
|
|
||||||
|
with open(CI_MATRIX_FILE) as f:
|
||||||
|
matrix_config = json.load(f)
|
||||||
|
|
||||||
|
DEFAULT_MATRIX = matrix_config["default"]
|
||||||
|
SCHEDULE_MATRICES: dict[str, list[dict[str, str]]] = matrix_config.get("schedules", {})
|
||||||
|
|
||||||
|
|
||||||
|
def generate_matrix(schedule="", test_setup=""):
|
||||||
|
"""
|
||||||
|
Generate test matrix based on schedule or manual input.
|
||||||
|
|
||||||
|
Args:
|
||||||
|
schedule: GitHub cron schedule string (e.g., "1 0 * * 0" for weekly)
|
||||||
|
test_setup: Manual test setup input (e.g., "ollama-vision")
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
Matrix configuration as JSON string
|
||||||
|
"""
|
||||||
|
# Weekly scheduled test matrices
|
||||||
|
if schedule and schedule in SCHEDULE_MATRICES:
|
||||||
|
matrix = SCHEDULE_MATRICES[schedule]
|
||||||
|
# Manual input for specific setup
|
||||||
|
elif test_setup == "ollama-vision":
|
||||||
|
matrix = [{"suite": "vision", "setup": "ollama-vision"}]
|
||||||
|
# Default: use JSON-defined matrix
|
||||||
|
else:
|
||||||
|
matrix = DEFAULT_MATRIX
|
||||||
|
|
||||||
|
# GitHub Actions expects {"include": [...]} format
|
||||||
|
return json.dumps({"include": matrix})
|
||||||
|
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
import argparse
|
||||||
|
|
||||||
|
parser = argparse.ArgumentParser(description="Generate CI test matrix")
|
||||||
|
parser.add_argument("--schedule", default="", help="GitHub schedule cron string")
|
||||||
|
parser.add_argument("--test-setup", default="", help="Manual test setup input")
|
||||||
|
|
||||||
|
args = parser.parse_args()
|
||||||
|
|
||||||
|
print(generate_matrix(args.schedule, args.test_setup))
|
||||||
File diff suppressed because it is too large
Load diff
|
|
@ -1,422 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/batches/test_batches.py::TestBatchesIntegration::test_batch_e2e_embeddings[emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://0.0.0.0:11434/v1/v1/embeddings",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"input": "Hello world",
|
|
||||||
"encoding_format": "float"
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/embeddings",
|
|
||||||
"model": "all-minilm:l6-v2"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.create_embedding_response.CreateEmbeddingResponse",
|
|
||||||
"__data__": {
|
|
||||||
"data": [
|
|
||||||
{
|
|
||||||
"embedding": [
|
|
||||||
-0.034477483,
|
|
||||||
0.030899182,
|
|
||||||
0.0066526434,
|
|
||||||
0.026075281,
|
|
||||||
-0.039411988,
|
|
||||||
-0.16037956,
|
|
||||||
0.06692074,
|
|
||||||
-0.006511468,
|
|
||||||
-0.047467157,
|
|
||||||
0.014774274,
|
|
||||||
0.07094562,
|
|
||||||
0.055527706,
|
|
||||||
0.019183245,
|
|
||||||
-0.026297163,
|
|
||||||
-0.010018651,
|
|
||||||
-0.02694715,
|
|
||||||
0.0223884,
|
|
||||||
-0.02220693,
|
|
||||||
-0.14977267,
|
|
||||||
-0.017530814,
|
|
||||||
0.0075938613,
|
|
||||||
0.054253556,
|
|
||||||
0.0032258728,
|
|
||||||
0.031724673,
|
|
||||||
-0.08466085,
|
|
||||||
-0.029342307,
|
|
||||||
0.05155048,
|
|
||||||
0.048105717,
|
|
||||||
-0.0032670307,
|
|
||||||
-0.05822795,
|
|
||||||
0.041971523,
|
|
||||||
0.022229431,
|
|
||||||
0.1281518,
|
|
||||||
-0.022270948,
|
|
||||||
-0.011725874,
|
|
||||||
0.06294936,
|
|
||||||
-0.032847952,
|
|
||||||
-0.09124354,
|
|
||||||
-0.031128692,
|
|
||||||
0.05274829,
|
|
||||||
0.047067728,
|
|
||||||
-0.08414196,
|
|
||||||
-0.029979317,
|
|
||||||
-0.020692566,
|
|
||||||
0.00949804,
|
|
||||||
-0.0035992558,
|
|
||||||
0.0074442336,
|
|
||||||
0.03928378,
|
|
||||||
0.09326073,
|
|
||||||
-0.0037437282,
|
|
||||||
-0.052663893,
|
|
||||||
-0.058101393,
|
|
||||||
-0.006925679,
|
|
||||||
0.0052269334,
|
|
||||||
0.08290669,
|
|
||||||
0.019312402,
|
|
||||||
0.0062818974,
|
|
||||||
-0.010331665,
|
|
||||||
0.008930684,
|
|
||||||
-0.037712026,
|
|
||||||
-0.045175705,
|
|
||||||
0.023950849,
|
|
||||||
-0.006926045,
|
|
||||||
0.013429504,
|
|
||||||
0.100098,
|
|
||||||
-0.0715888,
|
|
||||||
-0.021700105,
|
|
||||||
0.031693522,
|
|
||||||
-0.05161389,
|
|
||||||
-0.08224763,
|
|
||||||
-0.06577986,
|
|
||||||
-0.009853981,
|
|
||||||
0.005808086,
|
|
||||||
0.07364217,
|
|
||||||
-0.034008067,
|
|
||||||
0.024907362,
|
|
||||||
0.014441484,
|
|
||||||
0.02645124,
|
|
||||||
0.009659713,
|
|
||||||
0.030284341,
|
|
||||||
0.052878983,
|
|
||||||
-0.07536944,
|
|
||||||
0.009890014,
|
|
||||||
0.029907802,
|
|
||||||
0.017498897,
|
|
||||||
0.02313779,
|
|
||||||
0.0018918256,
|
|
||||||
0.0013156217,
|
|
||||||
-0.047173936,
|
|
||||||
-0.011251131,
|
|
||||||
-0.11422648,
|
|
||||||
-0.019960148,
|
|
||||||
0.040278148,
|
|
||||||
0.0022633963,
|
|
||||||
-0.07986738,
|
|
||||||
-0.025357265,
|
|
||||||
0.094500035,
|
|
||||||
-0.029062947,
|
|
||||||
-0.14495483,
|
|
||||||
0.2309815,
|
|
||||||
0.027703581,
|
|
||||||
0.03208736,
|
|
||||||
0.031073036,
|
|
||||||
0.042917974,
|
|
||||||
0.064246915,
|
|
||||||
0.032118786,
|
|
||||||
-0.004844535,
|
|
||||||
0.055775862,
|
|
||||||
-0.03756279,
|
|
||||||
-0.021487191,
|
|
||||||
-0.028432492,
|
|
||||||
-0.028887685,
|
|
||||||
0.03842892,
|
|
||||||
-0.017359573,
|
|
||||||
0.052465834,
|
|
||||||
-0.07493626,
|
|
||||||
-0.031175744,
|
|
||||||
0.021936033,
|
|
||||||
-0.039823197,
|
|
||||||
-0.008681939,
|
|
||||||
0.026978256,
|
|
||||||
-0.048551314,
|
|
||||||
0.011414809,
|
|
||||||
0.029628372,
|
|
||||||
-0.020587107,
|
|
||||||
0.013077965,
|
|
||||||
0.028824588,
|
|
||||||
-3.1978743e-33,
|
|
||||||
0.06475607,
|
|
||||||
-0.018065408,
|
|
||||||
0.05190019,
|
|
||||||
0.12193858,
|
|
||||||
0.028755108,
|
|
||||||
0.008794777,
|
|
||||||
-0.07044016,
|
|
||||||
-0.016856866,
|
|
||||||
0.040675826,
|
|
||||||
0.04222898,
|
|
||||||
0.025450956,
|
|
||||||
0.035772353,
|
|
||||||
-0.049134083,
|
|
||||||
0.0021395232,
|
|
||||||
-0.015527445,
|
|
||||||
0.05065655,
|
|
||||||
-0.04814189,
|
|
||||||
0.03586998,
|
|
||||||
-0.004134139,
|
|
||||||
0.10165314,
|
|
||||||
-0.055980552,
|
|
||||||
-0.010677752,
|
|
||||||
0.011231545,
|
|
||||||
0.09068785,
|
|
||||||
0.004311188,
|
|
||||||
0.035094332,
|
|
||||||
-0.009658399,
|
|
||||||
-0.09383056,
|
|
||||||
0.092755266,
|
|
||||||
0.00799794,
|
|
||||||
-0.0077075018,
|
|
||||||
-0.052119244,
|
|
||||||
-0.01259255,
|
|
||||||
0.0032277475,
|
|
||||||
0.005989667,
|
|
||||||
0.0075889886,
|
|
||||||
0.010571857,
|
|
||||||
-0.08629758,
|
|
||||||
-0.06985891,
|
|
||||||
-0.002511263,
|
|
||||||
-0.091053724,
|
|
||||||
0.0468712,
|
|
||||||
0.05203361,
|
|
||||||
0.0072902967,
|
|
||||||
0.010906411,
|
|
||||||
-0.0052922186,
|
|
||||||
0.013883815,
|
|
||||||
0.021929385,
|
|
||||||
0.0341257,
|
|
||||||
0.060227357,
|
|
||||||
0.00018942523,
|
|
||||||
0.0146624865,
|
|
||||||
-0.07000342,
|
|
||||||
0.028425341,
|
|
||||||
-0.027542787,
|
|
||||||
0.01082086,
|
|
||||||
0.03491755,
|
|
||||||
-0.022430921,
|
|
||||||
0.0096813915,
|
|
||||||
0.07725412,
|
|
||||||
0.021618832,
|
|
||||||
0.114911504,
|
|
||||||
-0.06805403,
|
|
||||||
0.023872944,
|
|
||||||
-0.015999107,
|
|
||||||
-0.017794114,
|
|
||||||
0.06442477,
|
|
||||||
0.03206309,
|
|
||||||
0.050293576,
|
|
||||||
-0.005988605,
|
|
||||||
-0.03376946,
|
|
||||||
0.017821673,
|
|
||||||
0.016567992,
|
|
||||||
0.063335925,
|
|
||||||
0.034753703,
|
|
||||||
0.046586752,
|
|
||||||
0.09789875,
|
|
||||||
-0.006560692,
|
|
||||||
0.025039855,
|
|
||||||
-0.07780643,
|
|
||||||
0.016878096,
|
|
||||||
-0.0010056288,
|
|
||||||
0.02257608,
|
|
||||||
-0.0382721,
|
|
||||||
0.09572481,
|
|
||||||
-0.005296001,
|
|
||||||
0.010567662,
|
|
||||||
-0.11538674,
|
|
||||||
-0.013233586,
|
|
||||||
-0.010786205,
|
|
||||||
-0.083147496,
|
|
||||||
0.073254965,
|
|
||||||
0.049377624,
|
|
||||||
-0.009025328,
|
|
||||||
-0.0957893,
|
|
||||||
3.3687185e-33,
|
|
||||||
0.12494067,
|
|
||||||
0.019226579,
|
|
||||||
-0.058172084,
|
|
||||||
-0.035952393,
|
|
||||||
-0.050862074,
|
|
||||||
-0.045700952,
|
|
||||||
-0.0826631,
|
|
||||||
0.14819908,
|
|
||||||
-0.088347495,
|
|
||||||
0.060315337,
|
|
||||||
0.05109269,
|
|
||||||
0.010308115,
|
|
||||||
0.1411753,
|
|
||||||
0.030833788,
|
|
||||||
0.06101746,
|
|
||||||
-0.052806143,
|
|
||||||
0.13661332,
|
|
||||||
0.00917483,
|
|
||||||
-0.017295862,
|
|
||||||
-0.0128495265,
|
|
||||||
-0.007851698,
|
|
||||||
-0.051084496,
|
|
||||||
-0.05235087,
|
|
||||||
0.0076632234,
|
|
||||||
-0.015217299,
|
|
||||||
0.017015414,
|
|
||||||
0.021324545,
|
|
||||||
0.020506723,
|
|
||||||
-0.12004153,
|
|
||||||
0.014523494,
|
|
||||||
0.026743378,
|
|
||||||
0.025221687,
|
|
||||||
-0.04270567,
|
|
||||||
0.00676352,
|
|
||||||
-0.014453511,
|
|
||||||
0.045142446,
|
|
||||||
-0.091383636,
|
|
||||||
-0.019459482,
|
|
||||||
-0.017806036,
|
|
||||||
-0.055010412,
|
|
||||||
-0.05270923,
|
|
||||||
-0.010370778,
|
|
||||||
-0.052053526,
|
|
||||||
0.020918628,
|
|
||||||
-0.080037735,
|
|
||||||
-0.012147244,
|
|
||||||
-0.057777684,
|
|
||||||
0.023249507,
|
|
||||||
-0.007838778,
|
|
||||||
-0.025807643,
|
|
||||||
-0.07987164,
|
|
||||||
-0.020683115,
|
|
||||||
0.04888083,
|
|
||||||
-0.020459235,
|
|
||||||
-0.049192864,
|
|
||||||
0.01407799,
|
|
||||||
-0.063744746,
|
|
||||||
-0.0077936463,
|
|
||||||
0.016429903,
|
|
||||||
-0.025707569,
|
|
||||||
0.013326097,
|
|
||||||
0.026210392,
|
|
||||||
0.009855086,
|
|
||||||
0.06317218,
|
|
||||||
0.0026150644,
|
|
||||||
-0.0065879063,
|
|
||||||
0.0166049,
|
|
||||||
0.032400407,
|
|
||||||
0.038005095,
|
|
||||||
-0.036269873,
|
|
||||||
-0.0069020875,
|
|
||||||
0.00019545198,
|
|
||||||
-0.0017537851,
|
|
||||||
-0.027427403,
|
|
||||||
-0.02801922,
|
|
||||||
0.049696837,
|
|
||||||
-0.028842367,
|
|
||||||
-0.0023814398,
|
|
||||||
0.01481421,
|
|
||||||
0.00976869,
|
|
||||||
0.0057697925,
|
|
||||||
0.01341087,
|
|
||||||
0.00551593,
|
|
||||||
0.037237898,
|
|
||||||
0.007291808,
|
|
||||||
0.040068958,
|
|
||||||
0.08141818,
|
|
||||||
0.07197348,
|
|
||||||
-0.013163506,
|
|
||||||
-0.042782705,
|
|
||||||
-0.010938265,
|
|
||||||
0.0049547236,
|
|
||||||
-0.00923014,
|
|
||||||
0.035068717,
|
|
||||||
-0.051007,
|
|
||||||
-1.5708556e-08,
|
|
||||||
-0.088558294,
|
|
||||||
0.02391312,
|
|
||||||
-0.016132735,
|
|
||||||
0.03169382,
|
|
||||||
0.027184812,
|
|
||||||
0.052484553,
|
|
||||||
-0.047118798,
|
|
||||||
-0.058789898,
|
|
||||||
-0.063239954,
|
|
||||||
0.040775288,
|
|
||||||
0.049807984,
|
|
||||||
0.106462926,
|
|
||||||
-0.07448737,
|
|
||||||
-0.012401869,
|
|
||||||
0.018361589,
|
|
||||||
0.039486438,
|
|
||||||
-0.024830224,
|
|
||||||
0.014500051,
|
|
||||||
-0.03712332,
|
|
||||||
0.020043189,
|
|
||||||
8.399218e-05,
|
|
||||||
0.009852795,
|
|
||||||
0.024823224,
|
|
||||||
-0.05252818,
|
|
||||||
0.02932855,
|
|
||||||
-0.0871494,
|
|
||||||
-0.01447227,
|
|
||||||
0.025996566,
|
|
||||||
-0.018731978,
|
|
||||||
-0.07618361,
|
|
||||||
0.03505914,
|
|
||||||
0.10363578,
|
|
||||||
-0.0280213,
|
|
||||||
0.012769872,
|
|
||||||
-0.076482065,
|
|
||||||
-0.018743375,
|
|
||||||
0.024961015,
|
|
||||||
0.08152011,
|
|
||||||
0.06866303,
|
|
||||||
-0.06411612,
|
|
||||||
-0.08387694,
|
|
||||||
0.061479986,
|
|
||||||
-0.03345598,
|
|
||||||
-0.10615398,
|
|
||||||
-0.040166635,
|
|
||||||
0.032536518,
|
|
||||||
0.076652974,
|
|
||||||
-0.07297006,
|
|
||||||
0.00039833272,
|
|
||||||
-0.0409393,
|
|
||||||
-0.07580284,
|
|
||||||
0.027465926,
|
|
||||||
0.07468789,
|
|
||||||
0.017779494,
|
|
||||||
0.09106629,
|
|
||||||
0.11033428,
|
|
||||||
0.00065298256,
|
|
||||||
0.051472265,
|
|
||||||
-0.01461242,
|
|
||||||
0.033237122,
|
|
||||||
0.023671487,
|
|
||||||
-0.022980422,
|
|
||||||
0.038988944,
|
|
||||||
0.030206418
|
|
||||||
],
|
|
||||||
"index": 0,
|
|
||||||
"object": "embedding"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"object": "list",
|
|
||||||
"usage": {
|
|
||||||
"prompt_tokens": 2,
|
|
||||||
"total_tokens": 2
|
|
||||||
}
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
12
tests/integration/ci_matrix.json
Normal file
12
tests/integration/ci_matrix.json
Normal file
|
|
@ -0,0 +1,12 @@
|
||||||
|
{
|
||||||
|
"default": [
|
||||||
|
{"suite": "base", "setup": "ollama"},
|
||||||
|
{"suite": "vision", "setup": "ollama-vision"},
|
||||||
|
{"suite": "responses", "setup": "gpt"}
|
||||||
|
],
|
||||||
|
"schedules": {
|
||||||
|
"1 0 * * 0": [
|
||||||
|
{"suite": "base", "setup": "vllm"}
|
||||||
|
]
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_with_encoding_format_base64[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:35:06.037921-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b-instruct-fp16",
|
|
||||||
"name": "llama3.2:3b-instruct-fp16",
|
|
||||||
"digest": "195a8c01d91ec3cb1e0aad4624a51f2602c51fa7d96110f8ab5a20c84081804d",
|
|
||||||
"expires_at": "2025-10-08T11:35:04.346635-07:00",
|
|
||||||
"size": 7919570944,
|
|
||||||
"size_vram": 7919570944,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,422 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_with_user_parameter[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://0.0.0.0:11434/v1/v1/embeddings",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"input": "Test user parameter",
|
|
||||||
"encoding_format": "float",
|
|
||||||
"user": "test-user-123"
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/embeddings",
|
|
||||||
"model": "all-minilm:l6-v2"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.create_embedding_response.CreateEmbeddingResponse",
|
|
||||||
"__data__": {
|
|
||||||
"data": [
|
|
||||||
{
|
|
||||||
"embedding": [
|
|
||||||
0.043779343,
|
|
||||||
0.021533398,
|
|
||||||
-0.081306435,
|
|
||||||
0.010584965,
|
|
||||||
-0.079082854,
|
|
||||||
-0.03219143,
|
|
||||||
0.13092613,
|
|
||||||
0.04234389,
|
|
||||||
-0.11600539,
|
|
||||||
-0.07588513,
|
|
||||||
0.04182356,
|
|
||||||
-0.08061255,
|
|
||||||
0.038127176,
|
|
||||||
-0.010701234,
|
|
||||||
0.015768763,
|
|
||||||
-0.04193689,
|
|
||||||
0.04310592,
|
|
||||||
-0.033361685,
|
|
||||||
0.013566423,
|
|
||||||
-0.010392366,
|
|
||||||
0.015551022,
|
|
||||||
-0.037858423,
|
|
||||||
-0.050305344,
|
|
||||||
-0.025666261,
|
|
||||||
-0.047879875,
|
|
||||||
-0.087179765,
|
|
||||||
0.016856788,
|
|
||||||
-0.036765736,
|
|
||||||
0.006393739,
|
|
||||||
0.020844297,
|
|
||||||
0.11262393,
|
|
||||||
-0.002143682,
|
|
||||||
-0.07910913,
|
|
||||||
0.038748607,
|
|
||||||
0.11532516,
|
|
||||||
-0.019759571,
|
|
||||||
0.0066967797,
|
|
||||||
-0.021164352,
|
|
||||||
-0.014471563,
|
|
||||||
-0.0027048697,
|
|
||||||
-0.034388524,
|
|
||||||
-0.052571636,
|
|
||||||
-0.030607725,
|
|
||||||
0.04747725,
|
|
||||||
-0.02431059,
|
|
||||||
0.0109337615,
|
|
||||||
-0.03946421,
|
|
||||||
0.071846664,
|
|
||||||
-0.020690937,
|
|
||||||
0.01898796,
|
|
||||||
0.042931512,
|
|
||||||
-0.0077551426,
|
|
||||||
0.0025911122,
|
|
||||||
-0.058268107,
|
|
||||||
0.0117475465,
|
|
||||||
-0.022701943,
|
|
||||||
0.0017815019,
|
|
||||||
-0.012612941,
|
|
||||||
0.030724185,
|
|
||||||
0.017728312,
|
|
||||||
-0.06155491,
|
|
||||||
-0.03656162,
|
|
||||||
0.02583153,
|
|
||||||
0.02537894,
|
|
||||||
0.012139213,
|
|
||||||
0.009105951,
|
|
||||||
-0.027318193,
|
|
||||||
-0.093389414,
|
|
||||||
0.005184693,
|
|
||||||
0.007488449,
|
|
||||||
-0.07540277,
|
|
||||||
0.010159999,
|
|
||||||
-0.028444426,
|
|
||||||
0.030260745,
|
|
||||||
0.0036438918,
|
|
||||||
-0.022627153,
|
|
||||||
-0.037846327,
|
|
||||||
-0.08381657,
|
|
||||||
-0.012445195,
|
|
||||||
-0.048908208,
|
|
||||||
0.029149827,
|
|
||||||
-0.044437535,
|
|
||||||
-0.07520237,
|
|
||||||
-0.020924438,
|
|
||||||
0.06342514,
|
|
||||||
0.1629199,
|
|
||||||
0.060563333,
|
|
||||||
-0.012817673,
|
|
||||||
-0.031030292,
|
|
||||||
0.018368995,
|
|
||||||
0.11223112,
|
|
||||||
0.07292473,
|
|
||||||
-0.062686674,
|
|
||||||
-0.031803295,
|
|
||||||
-0.017489262,
|
|
||||||
0.048433464,
|
|
||||||
-0.041148387,
|
|
||||||
-0.04183779,
|
|
||||||
-0.05994369,
|
|
||||||
0.15909556,
|
|
||||||
-0.027785666,
|
|
||||||
-0.012455991,
|
|
||||||
0.056005318,
|
|
||||||
-0.019891974,
|
|
||||||
0.022063067,
|
|
||||||
0.006342065,
|
|
||||||
0.0464118,
|
|
||||||
-0.07311654,
|
|
||||||
0.033282198,
|
|
||||||
0.05949105,
|
|
||||||
-0.033307947,
|
|
||||||
0.030738499,
|
|
||||||
0.008186239,
|
|
||||||
-0.020268966,
|
|
||||||
0.056593496,
|
|
||||||
-0.081526734,
|
|
||||||
0.023390312,
|
|
||||||
0.0060836566,
|
|
||||||
-0.07992586,
|
|
||||||
0.013986445,
|
|
||||||
0.052250065,
|
|
||||||
0.027186505,
|
|
||||||
-0.049284942,
|
|
||||||
0.028148174,
|
|
||||||
0.019493744,
|
|
||||||
0.05418436,
|
|
||||||
0.0827222,
|
|
||||||
-1.8825437e-33,
|
|
||||||
0.01360945,
|
|
||||||
-0.010870715,
|
|
||||||
0.015887791,
|
|
||||||
0.069373555,
|
|
||||||
-0.051129147,
|
|
||||||
0.08999179,
|
|
||||||
0.044494778,
|
|
||||||
0.08100757,
|
|
||||||
0.018944906,
|
|
||||||
-0.020974122,
|
|
||||||
-0.017938385,
|
|
||||||
-0.021756735,
|
|
||||||
0.010972489,
|
|
||||||
0.015099965,
|
|
||||||
0.017018452,
|
|
||||||
0.094338946,
|
|
||||||
0.0034407445,
|
|
||||||
0.010244923,
|
|
||||||
-0.044709302,
|
|
||||||
0.0018059182,
|
|
||||||
0.015817573,
|
|
||||||
-0.065777056,
|
|
||||||
-0.004948138,
|
|
||||||
0.0044092103,
|
|
||||||
-0.019589791,
|
|
||||||
-0.092789896,
|
|
||||||
-0.025898295,
|
|
||||||
0.044104066,
|
|
||||||
0.0541385,
|
|
||||||
-0.007362511,
|
|
||||||
-0.021487307,
|
|
||||||
-0.036836285,
|
|
||||||
-0.09148704,
|
|
||||||
0.084001675,
|
|
||||||
-0.018094191,
|
|
||||||
0.003797567,
|
|
||||||
0.020257449,
|
|
||||||
0.04394643,
|
|
||||||
-0.0772898,
|
|
||||||
0.0057312953,
|
|
||||||
-0.054519102,
|
|
||||||
-0.024835315,
|
|
||||||
0.0753162,
|
|
||||||
0.034552757,
|
|
||||||
-0.081203006,
|
|
||||||
-0.12210961,
|
|
||||||
-0.0053012627,
|
|
||||||
0.00780717,
|
|
||||||
0.050265096,
|
|
||||||
0.015569535,
|
|
||||||
-0.056362487,
|
|
||||||
0.039800324,
|
|
||||||
0.013022089,
|
|
||||||
-0.04015537,
|
|
||||||
0.014401654,
|
|
||||||
-0.033209093,
|
|
||||||
-0.008451782,
|
|
||||||
-0.037590392,
|
|
||||||
-0.01965779,
|
|
||||||
0.01730637,
|
|
||||||
-0.00896531,
|
|
||||||
-0.0018413392,
|
|
||||||
-0.0030382746,
|
|
||||||
0.030460354,
|
|
||||||
-0.05112036,
|
|
||||||
-0.086875,
|
|
||||||
-0.018338922,
|
|
||||||
-0.11328767,
|
|
||||||
0.07325826,
|
|
||||||
0.046035297,
|
|
||||||
0.012633494,
|
|
||||||
-0.06343216,
|
|
||||||
-0.028439038,
|
|
||||||
0.020128354,
|
|
||||||
-0.07883383,
|
|
||||||
-0.00069870794,
|
|
||||||
-0.03155447,
|
|
||||||
0.12306934,
|
|
||||||
0.004300722,
|
|
||||||
-0.026421167,
|
|
||||||
0.078361824,
|
|
||||||
-0.077461444,
|
|
||||||
-0.021267027,
|
|
||||||
0.048929654,
|
|
||||||
0.02919381,
|
|
||||||
-0.0092880055,
|
|
||||||
-0.030666346,
|
|
||||||
-0.04102384,
|
|
||||||
-0.03860138,
|
|
||||||
-0.08042292,
|
|
||||||
0.023227168,
|
|
||||||
0.04191858,
|
|
||||||
-0.058156747,
|
|
||||||
0.0585743,
|
|
||||||
0.076342255,
|
|
||||||
4.465569e-34,
|
|
||||||
-0.019599343,
|
|
||||||
0.040230304,
|
|
||||||
0.01455632,
|
|
||||||
0.034345042,
|
|
||||||
0.04392999,
|
|
||||||
-0.023241352,
|
|
||||||
0.067749046,
|
|
||||||
-0.03010354,
|
|
||||||
-0.09075954,
|
|
||||||
-0.019227842,
|
|
||||||
-0.027724287,
|
|
||||||
-0.00062344945,
|
|
||||||
0.0042892746,
|
|
||||||
0.053643614,
|
|
||||||
0.04075099,
|
|
||||||
0.032581333,
|
|
||||||
-0.107116826,
|
|
||||||
-0.0500636,
|
|
||||||
-0.016655827,
|
|
||||||
-0.007782394,
|
|
||||||
-0.111523,
|
|
||||||
0.07476429,
|
|
||||||
-0.016019335,
|
|
||||||
-0.050536986,
|
|
||||||
-0.11320647,
|
|
||||||
-0.0061384854,
|
|
||||||
0.050886273,
|
|
||||||
-0.030283457,
|
|
||||||
0.04318923,
|
|
||||||
0.03301474,
|
|
||||||
0.02362771,
|
|
||||||
0.046507858,
|
|
||||||
-0.03416386,
|
|
||||||
0.036145207,
|
|
||||||
0.023037339,
|
|
||||||
-0.026803765,
|
|
||||||
0.06361122,
|
|
||||||
0.09975251,
|
|
||||||
0.035269737,
|
|
||||||
0.1554014,
|
|
||||||
0.083479255,
|
|
||||||
0.10931981,
|
|
||||||
0.046847064,
|
|
||||||
-0.010136355,
|
|
||||||
-0.032541983,
|
|
||||||
0.12926093,
|
|
||||||
0.031193413,
|
|
||||||
-0.09971323,
|
|
||||||
0.010830718,
|
|
||||||
0.02325219,
|
|
||||||
-0.011917061,
|
|
||||||
0.010155018,
|
|
||||||
0.06883269,
|
|
||||||
0.009340846,
|
|
||||||
-0.022698723,
|
|
||||||
-0.042815465,
|
|
||||||
-0.048211087,
|
|
||||||
-0.085067384,
|
|
||||||
0.05105234,
|
|
||||||
0.045155898,
|
|
||||||
-0.03564869,
|
|
||||||
0.06549556,
|
|
||||||
0.048875004,
|
|
||||||
0.037915554,
|
|
||||||
-0.14071068,
|
|
||||||
-0.067095764,
|
|
||||||
0.009898252,
|
|
||||||
-0.0049653547,
|
|
||||||
-0.044304688,
|
|
||||||
0.0039006064,
|
|
||||||
-0.026903173,
|
|
||||||
-0.066124685,
|
|
||||||
0.040738244,
|
|
||||||
-0.052228633,
|
|
||||||
0.060485654,
|
|
||||||
-0.041119356,
|
|
||||||
-0.04312945,
|
|
||||||
-0.025152665,
|
|
||||||
0.08556276,
|
|
||||||
-0.044942576,
|
|
||||||
0.06393979,
|
|
||||||
-0.024227533,
|
|
||||||
-0.05052092,
|
|
||||||
-0.0020624825,
|
|
||||||
-0.078943975,
|
|
||||||
0.0026753,
|
|
||||||
0.02068896,
|
|
||||||
0.102683865,
|
|
||||||
-0.01237572,
|
|
||||||
0.056172684,
|
|
||||||
0.06552171,
|
|
||||||
0.030940128,
|
|
||||||
-0.07721113,
|
|
||||||
-0.061241012,
|
|
||||||
-0.016143149,
|
|
||||||
-1.3511957e-08,
|
|
||||||
-0.050416306,
|
|
||||||
-0.033628013,
|
|
||||||
0.046722032,
|
|
||||||
0.04744138,
|
|
||||||
-0.04411888,
|
|
||||||
0.04631675,
|
|
||||||
-0.0060847937,
|
|
||||||
-0.053873356,
|
|
||||||
0.013075445,
|
|
||||||
0.050437532,
|
|
||||||
-0.009895477,
|
|
||||||
-0.0041795173,
|
|
||||||
0.07229928,
|
|
||||||
0.021081135,
|
|
||||||
0.02672776,
|
|
||||||
-0.07482113,
|
|
||||||
-0.026757998,
|
|
||||||
0.052755926,
|
|
||||||
-0.034690056,
|
|
||||||
0.039811596,
|
|
||||||
-0.016370349,
|
|
||||||
0.045900222,
|
|
||||||
-0.02250936,
|
|
||||||
0.023861,
|
|
||||||
0.04912799,
|
|
||||||
0.09111738,
|
|
||||||
-0.0024878879,
|
|
||||||
0.049395334,
|
|
||||||
-0.03861115,
|
|
||||||
0.020867983,
|
|
||||||
0.076049894,
|
|
||||||
0.084881924,
|
|
||||||
-0.051956687,
|
|
||||||
-0.06878504,
|
|
||||||
-0.061384037,
|
|
||||||
0.077220954,
|
|
||||||
-0.06454818,
|
|
||||||
0.044513144,
|
|
||||||
0.008181126,
|
|
||||||
0.015890416,
|
|
||||||
-0.04280811,
|
|
||||||
0.005317184,
|
|
||||||
0.0034429359,
|
|
||||||
0.0031937633,
|
|
||||||
-0.013058055,
|
|
||||||
-0.09134677,
|
|
||||||
0.06425565,
|
|
||||||
-0.054977305,
|
|
||||||
0.0007087448,
|
|
||||||
-0.06258866,
|
|
||||||
-0.034974415,
|
|
||||||
-0.029966963,
|
|
||||||
0.044276785,
|
|
||||||
0.017868131,
|
|
||||||
-0.027976807,
|
|
||||||
-0.036579583,
|
|
||||||
0.021142753,
|
|
||||||
0.06057356,
|
|
||||||
-0.03133335,
|
|
||||||
-0.014331035,
|
|
||||||
0.034653842,
|
|
||||||
0.052315667,
|
|
||||||
-0.036585484,
|
|
||||||
0.028209662
|
|
||||||
],
|
|
||||||
"index": 0,
|
|
||||||
"object": "embedding"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"object": "list",
|
|
||||||
"usage": {
|
|
||||||
"prompt_tokens": 3,
|
|
||||||
"total_tokens": 3
|
|
||||||
}
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_different_inputs_different_outputs[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:35:05.489695-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b-instruct-fp16",
|
|
||||||
"name": "llama3.2:3b-instruct-fp16",
|
|
||||||
"digest": "195a8c01d91ec3cb1e0aad4624a51f2602c51fa7d96110f8ab5a20c84081804d",
|
|
||||||
"expires_at": "2025-10-08T11:35:04.346635-07:00",
|
|
||||||
"size": 7919570944,
|
|
||||||
"size_vram": 7919570944,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_with_dimensions[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:32:10.993052-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama-guard3:1b",
|
|
||||||
"name": "llama-guard3:1b",
|
|
||||||
"digest": "494147e06bf99e10dbe67b63a07ac81c162f18ef3341aa3390007ac828571b3b",
|
|
||||||
"expires_at": "2025-10-08T11:30:00.392919-07:00",
|
|
||||||
"size": 2350966784,
|
|
||||||
"size_vram": 2350966784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "1.5B",
|
|
||||||
"quantization_level": "Q8_0"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,54 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_with_dimensions[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://0.0.0.0:11434/v1/v1/embeddings",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"input": "Test dimensions parameter",
|
|
||||||
"encoding_format": "float",
|
|
||||||
"dimensions": 16
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/embeddings",
|
|
||||||
"model": "all-minilm:l6-v2"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.create_embedding_response.CreateEmbeddingResponse",
|
|
||||||
"__data__": {
|
|
||||||
"data": [
|
|
||||||
{
|
|
||||||
"embedding": [
|
|
||||||
0.25369987,
|
|
||||||
0.016355688,
|
|
||||||
-0.29676768,
|
|
||||||
0.316427,
|
|
||||||
-0.18642858,
|
|
||||||
0.076206245,
|
|
||||||
-0.031503417,
|
|
||||||
0.29860005,
|
|
||||||
-0.496603,
|
|
||||||
-0.36621967,
|
|
||||||
0.25334543,
|
|
||||||
-0.333392,
|
|
||||||
0.005993569,
|
|
||||||
0.14079759,
|
|
||||||
-0.13775977,
|
|
||||||
-0.14680246
|
|
||||||
],
|
|
||||||
"index": 0,
|
|
||||||
"object": "embedding"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"object": "list",
|
|
||||||
"usage": {
|
|
||||||
"prompt_tokens": 3,
|
|
||||||
"total_tokens": 3
|
|
||||||
}
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,421 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_different_inputs_different_outputs[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://0.0.0.0:11434/v1/v1/embeddings",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"input": "This is the first text",
|
|
||||||
"encoding_format": "float"
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/embeddings",
|
|
||||||
"model": "all-minilm:l6-v2"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.create_embedding_response.CreateEmbeddingResponse",
|
|
||||||
"__data__": {
|
|
||||||
"data": [
|
|
||||||
{
|
|
||||||
"embedding": [
|
|
||||||
-0.0010839553,
|
|
||||||
0.067364,
|
|
||||||
0.015185306,
|
|
||||||
0.037240896,
|
|
||||||
0.029337138,
|
|
||||||
0.015160007,
|
|
||||||
0.0743005,
|
|
||||||
-0.0032980628,
|
|
||||||
0.06581814,
|
|
||||||
-0.021851996,
|
|
||||||
0.034412965,
|
|
||||||
0.051005766,
|
|
||||||
-0.011422501,
|
|
||||||
-0.025062356,
|
|
||||||
-0.051756065,
|
|
||||||
0.027193472,
|
|
||||||
0.07849549,
|
|
||||||
-0.05999108,
|
|
||||||
0.010471458,
|
|
||||||
-0.003400683,
|
|
||||||
0.043449093,
|
|
||||||
0.122919865,
|
|
||||||
9.668583e-05,
|
|
||||||
0.002153268,
|
|
||||||
0.018064681,
|
|
||||||
0.045069378,
|
|
||||||
-0.09762388,
|
|
||||||
0.11186886,
|
|
||||||
0.049657565,
|
|
||||||
-0.03485217,
|
|
||||||
-0.039568134,
|
|
||||||
0.003532146,
|
|
||||||
0.15894793,
|
|
||||||
0.06341193,
|
|
||||||
0.047953114,
|
|
||||||
0.011617699,
|
|
||||||
0.009799243,
|
|
||||||
0.015377702,
|
|
||||||
0.009379663,
|
|
||||||
0.079989135,
|
|
||||||
0.019207356,
|
|
||||||
-0.13718612,
|
|
||||||
0.01730099,
|
|
||||||
0.013687199,
|
|
||||||
0.014266827,
|
|
||||||
-0.00022628276,
|
|
||||||
-0.017710257,
|
|
||||||
0.02291068,
|
|
||||||
0.03590651,
|
|
||||||
-0.015361055,
|
|
||||||
-0.00978436,
|
|
||||||
-0.0401825,
|
|
||||||
-0.011481894,
|
|
||||||
0.00014050963,
|
|
||||||
0.08540761,
|
|
||||||
0.08730027,
|
|
||||||
0.0046967245,
|
|
||||||
0.006164595,
|
|
||||||
0.003031956,
|
|
||||||
0.008891807,
|
|
||||||
-0.006260525,
|
|
||||||
0.05061661,
|
|
||||||
0.0005252785,
|
|
||||||
0.0467754,
|
|
||||||
0.09363822,
|
|
||||||
-0.012814104,
|
|
||||||
0.017708639,
|
|
||||||
-0.062698044,
|
|
||||||
-0.11535818,
|
|
||||||
0.041123625,
|
|
||||||
-0.014939021,
|
|
||||||
0.044815876,
|
|
||||||
-0.020868087,
|
|
||||||
0.042999975,
|
|
||||||
-0.061038766,
|
|
||||||
0.019998673,
|
|
||||||
-0.068740115,
|
|
||||||
-0.035516046,
|
|
||||||
0.041884515,
|
|
||||||
0.012185281,
|
|
||||||
-0.029084096,
|
|
||||||
-0.06643917,
|
|
||||||
0.030638866,
|
|
||||||
0.05149607,
|
|
||||||
-0.12815061,
|
|
||||||
0.06821646,
|
|
||||||
-0.047070153,
|
|
||||||
-0.032925386,
|
|
||||||
0.007499353,
|
|
||||||
-0.017841771,
|
|
||||||
0.038296465,
|
|
||||||
-0.015792726,
|
|
||||||
0.07054022,
|
|
||||||
0.038072467,
|
|
||||||
-0.11428876,
|
|
||||||
0.04210153,
|
|
||||||
-0.11162366,
|
|
||||||
-0.045723915,
|
|
||||||
-0.028951947,
|
|
||||||
0.12735675,
|
|
||||||
-0.013946637,
|
|
||||||
-0.027157523,
|
|
||||||
0.07295939,
|
|
||||||
0.024098422,
|
|
||||||
-0.054050542,
|
|
||||||
-0.13125896,
|
|
||||||
0.03013205,
|
|
||||||
-0.023223283,
|
|
||||||
-0.019072957,
|
|
||||||
-0.007864101,
|
|
||||||
-0.021954412,
|
|
||||||
-0.05329901,
|
|
||||||
-0.07088355,
|
|
||||||
-0.0115214065,
|
|
||||||
-0.023399564,
|
|
||||||
-0.015638318,
|
|
||||||
0.05148062,
|
|
||||||
0.029261008,
|
|
||||||
0.06481798,
|
|
||||||
0.064031154,
|
|
||||||
0.014445124,
|
|
||||||
-0.058017716,
|
|
||||||
-0.069921836,
|
|
||||||
-0.023950975,
|
|
||||||
-0.08490842,
|
|
||||||
-0.08779567,
|
|
||||||
0.048162255,
|
|
||||||
-6.1240354e-33,
|
|
||||||
0.010315817,
|
|
||||||
0.038685724,
|
|
||||||
0.0031864564,
|
|
||||||
0.0357421,
|
|
||||||
0.0050265454,
|
|
||||||
-0.004210234,
|
|
||||||
-0.053900674,
|
|
||||||
-0.02988569,
|
|
||||||
-0.07548199,
|
|
||||||
-0.078777455,
|
|
||||||
-0.012271205,
|
|
||||||
-0.05056629,
|
|
||||||
0.020729113,
|
|
||||||
-0.051866043,
|
|
||||||
-0.059254467,
|
|
||||||
-0.059903424,
|
|
||||||
-0.055699438,
|
|
||||||
0.032196835,
|
|
||||||
-0.006328442,
|
|
||||||
-0.021668624,
|
|
||||||
-0.059921067,
|
|
||||||
0.0519611,
|
|
||||||
0.051227964,
|
|
||||||
-0.063502096,
|
|
||||||
-0.04873505,
|
|
||||||
-0.014265467,
|
|
||||||
0.0025537873,
|
|
||||||
-0.024346355,
|
|
||||||
-0.0055181426,
|
|
||||||
0.02007461,
|
|
||||||
-0.10196586,
|
|
||||||
0.010727814,
|
|
||||||
-0.023194604,
|
|
||||||
-0.081025146,
|
|
||||||
-0.014997581,
|
|
||||||
0.0017926424,
|
|
||||||
0.045078833,
|
|
||||||
-0.052792255,
|
|
||||||
-0.05368693,
|
|
||||||
-0.013245513,
|
|
||||||
-0.019808132,
|
|
||||||
0.020031843,
|
|
||||||
-0.00081401254,
|
|
||||||
-0.10117647,
|
|
||||||
-0.0007066768,
|
|
||||||
0.09663035,
|
|
||||||
-0.03946875,
|
|
||||||
0.04954661,
|
|
||||||
0.042237334,
|
|
||||||
0.007943922,
|
|
||||||
-0.05234212,
|
|
||||||
0.051887065,
|
|
||||||
0.03711589,
|
|
||||||
0.034850314,
|
|
||||||
0.063441575,
|
|
||||||
-0.026583876,
|
|
||||||
-0.009227281,
|
|
||||||
-0.0025737104,
|
|
||||||
-0.056082893,
|
|
||||||
0.0020716325,
|
|
||||||
-0.020129146,
|
|
||||||
0.0012315192,
|
|
||||||
-0.0017609745,
|
|
||||||
0.019111704,
|
|
||||||
0.016572498,
|
|
||||||
-0.011374,
|
|
||||||
0.010381644,
|
|
||||||
-0.007864189,
|
|
||||||
0.04664868,
|
|
||||||
-0.046856377,
|
|
||||||
-0.08523834,
|
|
||||||
-0.008974813,
|
|
||||||
0.012022968,
|
|
||||||
0.013285977,
|
|
||||||
0.015182303,
|
|
||||||
0.03708482,
|
|
||||||
0.026587088,
|
|
||||||
0.014473839,
|
|
||||||
-0.013946565,
|
|
||||||
0.01999883,
|
|
||||||
-0.06888259,
|
|
||||||
-0.07111367,
|
|
||||||
0.012369427,
|
|
||||||
0.032828625,
|
|
||||||
-0.03152666,
|
|
||||||
0.045777358,
|
|
||||||
0.06801705,
|
|
||||||
-0.07747748,
|
|
||||||
0.018461134,
|
|
||||||
0.06620267,
|
|
||||||
-0.086365156,
|
|
||||||
0.008950603,
|
|
||||||
0.041320425,
|
|
||||||
0.009541193,
|
|
||||||
0.0066037327,
|
|
||||||
4.71081e-33,
|
|
||||||
-0.026172558,
|
|
||||||
0.0013145636,
|
|
||||||
-0.014140948,
|
|
||||||
-0.024360213,
|
|
||||||
0.06931815,
|
|
||||||
0.031448748,
|
|
||||||
0.037257418,
|
|
||||||
0.06468137,
|
|
||||||
0.049403396,
|
|
||||||
0.11072201,
|
|
||||||
0.04985356,
|
|
||||||
0.06679111,
|
|
||||||
0.04153249,
|
|
||||||
-0.034106053,
|
|
||||||
0.070283465,
|
|
||||||
0.034855895,
|
|
||||||
0.12902643,
|
|
||||||
-0.021033453,
|
|
||||||
0.008940618,
|
|
||||||
0.030177405,
|
|
||||||
-0.022881329,
|
|
||||||
0.036504544,
|
|
||||||
-0.13194299,
|
|
||||||
0.045612644,
|
|
||||||
-0.0127895875,
|
|
||||||
0.04174139,
|
|
||||||
0.1232064,
|
|
||||||
-0.013484046,
|
|
||||||
-0.007285246,
|
|
||||||
-0.029776007,
|
|
||||||
0.025007037,
|
|
||||||
-0.009516822,
|
|
||||||
0.02475585,
|
|
||||||
0.023208592,
|
|
||||||
-0.019141924,
|
|
||||||
0.02259424,
|
|
||||||
0.013740329,
|
|
||||||
-0.038490705,
|
|
||||||
-0.014461541,
|
|
||||||
0.075218394,
|
|
||||||
0.13589163,
|
|
||||||
0.009839605,
|
|
||||||
-0.037563317,
|
|
||||||
-0.02737327,
|
|
||||||
-0.016485116,
|
|
||||||
-0.048845276,
|
|
||||||
-0.03523722,
|
|
||||||
-0.05439929,
|
|
||||||
-0.0017957076,
|
|
||||||
0.03563579,
|
|
||||||
-0.010255764,
|
|
||||||
-0.01859244,
|
|
||||||
-0.03647324,
|
|
||||||
-0.055985246,
|
|
||||||
-0.007833892,
|
|
||||||
0.009086756,
|
|
||||||
-0.007333394,
|
|
||||||
0.050386623,
|
|
||||||
-0.0002305643,
|
|
||||||
-0.03637248,
|
|
||||||
-0.024937423,
|
|
||||||
0.058877032,
|
|
||||||
-0.07250415,
|
|
||||||
0.07401245,
|
|
||||||
0.053917013,
|
|
||||||
-0.051895224,
|
|
||||||
-0.006332244,
|
|
||||||
0.07850189,
|
|
||||||
-0.01695057,
|
|
||||||
-0.006673017,
|
|
||||||
0.012659739,
|
|
||||||
-0.014127065,
|
|
||||||
-0.13639799,
|
|
||||||
-0.08524976,
|
|
||||||
-0.017533274,
|
|
||||||
-0.0046930755,
|
|
||||||
0.013687301,
|
|
||||||
0.0009185522,
|
|
||||||
-0.0719948,
|
|
||||||
-0.06887779,
|
|
||||||
0.14208324,
|
|
||||||
0.03187123,
|
|
||||||
-0.055919908,
|
|
||||||
0.030401653,
|
|
||||||
0.061900012,
|
|
||||||
0.029921472,
|
|
||||||
-0.00096237566,
|
|
||||||
-0.065010294,
|
|
||||||
-0.020657646,
|
|
||||||
0.039562404,
|
|
||||||
-0.123846576,
|
|
||||||
0.0028867351,
|
|
||||||
0.051196404,
|
|
||||||
0.13397509,
|
|
||||||
-0.088453874,
|
|
||||||
-1.7590333e-08,
|
|
||||||
-0.025786474,
|
|
||||||
-0.080303885,
|
|
||||||
-0.09164947,
|
|
||||||
0.031999,
|
|
||||||
0.00584884,
|
|
||||||
0.11464121,
|
|
||||||
0.023377793,
|
|
||||||
-0.06902527,
|
|
||||||
-0.055941124,
|
|
||||||
-0.05787791,
|
|
||||||
0.014640494,
|
|
||||||
0.080320895,
|
|
||||||
0.0037027278,
|
|
||||||
-0.030824674,
|
|
||||||
0.024432683,
|
|
||||||
0.008549355,
|
|
||||||
-0.05291309,
|
|
||||||
-0.06636625,
|
|
||||||
0.0007468212,
|
|
||||||
-0.02379191,
|
|
||||||
0.030766092,
|
|
||||||
0.054053318,
|
|
||||||
-0.0027251292,
|
|
||||||
-0.09928475,
|
|
||||||
-0.0150488615,
|
|
||||||
0.016240431,
|
|
||||||
-0.0015727071,
|
|
||||||
0.01190173,
|
|
||||||
0.007895162,
|
|
||||||
0.04894733,
|
|
||||||
0.00487708,
|
|
||||||
0.08263861,
|
|
||||||
-0.014527478,
|
|
||||||
-0.043879665,
|
|
||||||
0.004633697,
|
|
||||||
0.024611989,
|
|
||||||
0.023827499,
|
|
||||||
0.02366802,
|
|
||||||
0.050754935,
|
|
||||||
-0.051841788,
|
|
||||||
0.0212632,
|
|
||||||
-0.0034418616,
|
|
||||||
-0.021175656,
|
|
||||||
0.020591663,
|
|
||||||
-0.06475325,
|
|
||||||
0.0542002,
|
|
||||||
0.027792262,
|
|
||||||
-0.05295982,
|
|
||||||
0.01509645,
|
|
||||||
-0.11977527,
|
|
||||||
-0.03416359,
|
|
||||||
-0.012206606,
|
|
||||||
0.047451705,
|
|
||||||
0.020876253,
|
|
||||||
-0.026368074,
|
|
||||||
0.01502373,
|
|
||||||
0.033982284,
|
|
||||||
0.059788153,
|
|
||||||
-0.052526973,
|
|
||||||
0.03356499,
|
|
||||||
0.061180886,
|
|
||||||
0.096336305,
|
|
||||||
0.116353564,
|
|
||||||
-0.016122948
|
|
||||||
],
|
|
||||||
"index": 0,
|
|
||||||
"object": "embedding"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"object": "list",
|
|
||||||
"usage": {
|
|
||||||
"prompt_tokens": 5,
|
|
||||||
"total_tokens": 5
|
|
||||||
}
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,421 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_with_encoding_format_float[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://0.0.0.0:11434/v1/v1/embeddings",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"input": "Test encoding format",
|
|
||||||
"encoding_format": "float"
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/embeddings",
|
|
||||||
"model": "all-minilm:l6-v2"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.create_embedding_response.CreateEmbeddingResponse",
|
|
||||||
"__data__": {
|
|
||||||
"data": [
|
|
||||||
{
|
|
||||||
"embedding": [
|
|
||||||
0.019109152,
|
|
||||||
-0.0205217,
|
|
||||||
-0.071471564,
|
|
||||||
-0.023057504,
|
|
||||||
-0.06572786,
|
|
||||||
-0.0057331678,
|
|
||||||
-0.029395059,
|
|
||||||
-0.031822033,
|
|
||||||
-0.015748156,
|
|
||||||
-0.039123703,
|
|
||||||
0.02694331,
|
|
||||||
-0.0641754,
|
|
||||||
0.013510709,
|
|
||||||
0.050364953,
|
|
||||||
-0.03114308,
|
|
||||||
-0.08322274,
|
|
||||||
-0.03192984,
|
|
||||||
0.074970365,
|
|
||||||
-0.016377378,
|
|
||||||
-0.0013804765,
|
|
||||||
0.03850419,
|
|
||||||
-0.03441017,
|
|
||||||
-0.0048610102,
|
|
||||||
-0.03094053,
|
|
||||||
0.051915165,
|
|
||||||
0.009193639,
|
|
||||||
0.0071807485,
|
|
||||||
0.066353165,
|
|
||||||
0.024559105,
|
|
||||||
-0.04767663,
|
|
||||||
0.0376255,
|
|
||||||
-0.042586852,
|
|
||||||
0.078906916,
|
|
||||||
0.04827334,
|
|
||||||
0.13389648,
|
|
||||||
0.013978803,
|
|
||||||
0.03242126,
|
|
||||||
-0.08890431,
|
|
||||||
-0.014188366,
|
|
||||||
0.03553346,
|
|
||||||
-0.02476171,
|
|
||||||
-0.028628638,
|
|
||||||
0.047652308,
|
|
||||||
0.026259335,
|
|
||||||
0.048472118,
|
|
||||||
0.06663718,
|
|
||||||
-0.013584004,
|
|
||||||
0.071824096,
|
|
||||||
-0.073066786,
|
|
||||||
-0.050326068,
|
|
||||||
0.0039502876,
|
|
||||||
0.03300394,
|
|
||||||
-0.047816053,
|
|
||||||
-0.017657546,
|
|
||||||
0.010284664,
|
|
||||||
-0.10525716,
|
|
||||||
-0.010034394,
|
|
||||||
0.014627846,
|
|
||||||
-0.053289402,
|
|
||||||
0.060343288,
|
|
||||||
-0.10079798,
|
|
||||||
0.011359217,
|
|
||||||
-0.007258805,
|
|
||||||
0.05346498,
|
|
||||||
-0.0068726647,
|
|
||||||
0.03697505,
|
|
||||||
0.024016414,
|
|
||||||
0.023924585,
|
|
||||||
-0.011357761,
|
|
||||||
-0.119573325,
|
|
||||||
-0.115692526,
|
|
||||||
-0.06673285,
|
|
||||||
-0.04233929,
|
|
||||||
0.09302018,
|
|
||||||
0.02486003,
|
|
||||||
0.084047645,
|
|
||||||
0.0030104683,
|
|
||||||
-0.06605523,
|
|
||||||
0.027435688,
|
|
||||||
-0.032412402,
|
|
||||||
-0.025584543,
|
|
||||||
-0.06590182,
|
|
||||||
0.067799605,
|
|
||||||
0.0976311,
|
|
||||||
0.07360619,
|
|
||||||
0.034108408,
|
|
||||||
0.056534845,
|
|
||||||
0.076705806,
|
|
||||||
-0.05179011,
|
|
||||||
0.053681813,
|
|
||||||
0.0054462817,
|
|
||||||
0.015972052,
|
|
||||||
0.0035656213,
|
|
||||||
0.06333522,
|
|
||||||
-0.01597322,
|
|
||||||
0.05295729,
|
|
||||||
0.11539089,
|
|
||||||
0.055200845,
|
|
||||||
0.037667733,
|
|
||||||
0.08083974,
|
|
||||||
0.035557732,
|
|
||||||
-0.07982552,
|
|
||||||
-0.012100598,
|
|
||||||
-0.07612801,
|
|
||||||
-0.0695667,
|
|
||||||
-0.017815348,
|
|
||||||
0.16996554,
|
|
||||||
-0.0048157335,
|
|
||||||
0.09073964,
|
|
||||||
-0.07196438,
|
|
||||||
0.020009195,
|
|
||||||
-0.05956153,
|
|
||||||
-0.06312686,
|
|
||||||
-0.07716358,
|
|
||||||
0.0150949685,
|
|
||||||
-0.050339524,
|
|
||||||
-0.05444592,
|
|
||||||
-0.023078114,
|
|
||||||
-0.035431463,
|
|
||||||
-0.030625492,
|
|
||||||
-0.053284056,
|
|
||||||
-0.06745872,
|
|
||||||
-0.08049862,
|
|
||||||
0.002800386,
|
|
||||||
-0.0114065055,
|
|
||||||
-0.029938627,
|
|
||||||
0.024243163,
|
|
||||||
-1.5107368e-33,
|
|
||||||
-0.02984805,
|
|
||||||
-0.00033025863,
|
|
||||||
0.0030491,
|
|
||||||
0.023082128,
|
|
||||||
-0.04808977,
|
|
||||||
-0.0027841914,
|
|
||||||
-0.037461873,
|
|
||||||
0.016201235,
|
|
||||||
-0.02998979,
|
|
||||||
0.015712254,
|
|
||||||
0.009664366,
|
|
||||||
-0.03984875,
|
|
||||||
-0.029493092,
|
|
||||||
0.03837007,
|
|
||||||
-0.005226541,
|
|
||||||
0.06857773,
|
|
||||||
-0.007891026,
|
|
||||||
-0.0019036188,
|
|
||||||
-0.035219382,
|
|
||||||
0.03627955,
|
|
||||||
0.05867878,
|
|
||||||
0.023777487,
|
|
||||||
0.044425115,
|
|
||||||
-0.025999734,
|
|
||||||
-0.025318418,
|
|
||||||
-0.02685328,
|
|
||||||
-0.02368557,
|
|
||||||
-0.094386704,
|
|
||||||
0.0016880591,
|
|
||||||
0.0065193563,
|
|
||||||
-0.09711005,
|
|
||||||
-0.053493332,
|
|
||||||
-0.08241291,
|
|
||||||
0.023502836,
|
|
||||||
-0.02407441,
|
|
||||||
0.015992055,
|
|
||||||
0.0050546136,
|
|
||||||
0.030476829,
|
|
||||||
-0.088438906,
|
|
||||||
0.11427086,
|
|
||||||
0.028378993,
|
|
||||||
0.02985018,
|
|
||||||
0.022821706,
|
|
||||||
0.018776013,
|
|
||||||
0.056330692,
|
|
||||||
-0.020254886,
|
|
||||||
-0.00070521404,
|
|
||||||
-0.0864014,
|
|
||||||
0.020228866,
|
|
||||||
-0.0039839754,
|
|
||||||
0.0010032665,
|
|
||||||
0.065425254,
|
|
||||||
-0.036518592,
|
|
||||||
0.032341316,
|
|
||||||
0.023112345,
|
|
||||||
0.044507477,
|
|
||||||
0.09644409,
|
|
||||||
-0.07272818,
|
|
||||||
0.03370691,
|
|
||||||
0.042783204,
|
|
||||||
-0.052776046,
|
|
||||||
0.0003352446,
|
|
||||||
0.061005518,
|
|
||||||
-0.019623613,
|
|
||||||
-0.023274273,
|
|
||||||
-0.11602989,
|
|
||||||
0.007926991,
|
|
||||||
-0.12529127,
|
|
||||||
0.017030548,
|
|
||||||
0.013484081,
|
|
||||||
-0.030528491,
|
|
||||||
-0.024298145,
|
|
||||||
0.006284904,
|
|
||||||
-0.015568167,
|
|
||||||
-0.072781205,
|
|
||||||
0.012985074,
|
|
||||||
0.015977127,
|
|
||||||
0.0051657534,
|
|
||||||
-0.0026022948,
|
|
||||||
-0.059578825,
|
|
||||||
0.06372584,
|
|
||||||
-0.0019363016,
|
|
||||||
0.018695941,
|
|
||||||
-0.009242735,
|
|
||||||
-0.05887247,
|
|
||||||
-0.032524884,
|
|
||||||
-0.009591115,
|
|
||||||
-0.047377545,
|
|
||||||
0.020585002,
|
|
||||||
-0.007134836,
|
|
||||||
0.050135154,
|
|
||||||
0.016087264,
|
|
||||||
-0.0058878902,
|
|
||||||
-0.07661024,
|
|
||||||
0.0820671,
|
|
||||||
1.6053074e-33,
|
|
||||||
-0.0056476775,
|
|
||||||
0.06719423,
|
|
||||||
-0.011510322,
|
|
||||||
0.05586423,
|
|
||||||
-0.08886697,
|
|
||||||
-0.036528286,
|
|
||||||
0.12134926,
|
|
||||||
0.028969096,
|
|
||||||
0.022419011,
|
|
||||||
0.047327086,
|
|
||||||
0.07621525,
|
|
||||||
-0.07937209,
|
|
||||||
0.0020504447,
|
|
||||||
-0.023489932,
|
|
||||||
-0.029759271,
|
|
||||||
-0.04879825,
|
|
||||||
-0.034876924,
|
|
||||||
0.06461666,
|
|
||||||
0.051493492,
|
|
||||||
0.008284975,
|
|
||||||
-0.031793926,
|
|
||||||
0.098015875,
|
|
||||||
0.008122038,
|
|
||||||
0.01032072,
|
|
||||||
0.059404474,
|
|
||||||
0.05176487,
|
|
||||||
0.042960417,
|
|
||||||
0.0069373515,
|
|
||||||
0.027306866,
|
|
||||||
0.039226852,
|
|
||||||
0.062416088,
|
|
||||||
0.051797673,
|
|
||||||
0.0053232666,
|
|
||||||
0.05965781,
|
|
||||||
-0.008935817,
|
|
||||||
-0.0135501,
|
|
||||||
0.08726531,
|
|
||||||
0.028408607,
|
|
||||||
-0.006820522,
|
|
||||||
0.052098107,
|
|
||||||
0.049510423,
|
|
||||||
0.055176627,
|
|
||||||
-0.016774576,
|
|
||||||
0.077848226,
|
|
||||||
0.026121203,
|
|
||||||
0.031311177,
|
|
||||||
0.011812256,
|
|
||||||
-0.0341528,
|
|
||||||
0.052825138,
|
|
||||||
0.003484205,
|
|
||||||
0.09811821,
|
|
||||||
0.029693138,
|
|
||||||
-0.031354938,
|
|
||||||
-0.012068096,
|
|
||||||
0.018686052,
|
|
||||||
-0.032609653,
|
|
||||||
-0.09638639,
|
|
||||||
0.033928476,
|
|
||||||
-0.07897009,
|
|
||||||
-0.008300913,
|
|
||||||
-0.04915284,
|
|
||||||
0.02006342,
|
|
||||||
0.061743837,
|
|
||||||
-0.018412542,
|
|
||||||
-0.033583082,
|
|
||||||
-0.090903476,
|
|
||||||
0.021116566,
|
|
||||||
-0.022445552,
|
|
||||||
-0.011814237,
|
|
||||||
-0.048816226,
|
|
||||||
0.048287436,
|
|
||||||
-0.07294675,
|
|
||||||
-0.02198573,
|
|
||||||
0.062477604,
|
|
||||||
0.023308119,
|
|
||||||
-0.052141402,
|
|
||||||
-0.05409648,
|
|
||||||
0.062339973,
|
|
||||||
0.052301563,
|
|
||||||
0.051384836,
|
|
||||||
-0.02426406,
|
|
||||||
-0.018824687,
|
|
||||||
-0.01660311,
|
|
||||||
0.09330242,
|
|
||||||
0.008502433,
|
|
||||||
0.063408315,
|
|
||||||
0.019377569,
|
|
||||||
0.047027417,
|
|
||||||
-0.0058769877,
|
|
||||||
-0.0034505578,
|
|
||||||
0.07956527,
|
|
||||||
0.10210641,
|
|
||||||
0.015302805,
|
|
||||||
0.04089992,
|
|
||||||
0.038895626,
|
|
||||||
-1.2710905e-08,
|
|
||||||
-0.019304764,
|
|
||||||
-0.1217849,
|
|
||||||
-0.047983564,
|
|
||||||
-0.053382736,
|
|
||||||
-0.113197215,
|
|
||||||
0.05181196,
|
|
||||||
-0.10498226,
|
|
||||||
-0.08524135,
|
|
||||||
0.0061870585,
|
|
||||||
-0.029899841,
|
|
||||||
0.064561576,
|
|
||||||
-0.028730206,
|
|
||||||
-0.064735174,
|
|
||||||
-0.024887148,
|
|
||||||
0.0026119591,
|
|
||||||
-0.008796896,
|
|
||||||
0.030246036,
|
|
||||||
0.009807871,
|
|
||||||
0.0044631795,
|
|
||||||
0.0851423,
|
|
||||||
-0.026132204,
|
|
||||||
0.11360852,
|
|
||||||
-0.0045760865,
|
|
||||||
-0.036643907,
|
|
||||||
-0.09078616,
|
|
||||||
0.081466354,
|
|
||||||
0.012066122,
|
|
||||||
0.07288108,
|
|
||||||
0.004079195,
|
|
||||||
-0.05064171,
|
|
||||||
0.068772145,
|
|
||||||
0.029108258,
|
|
||||||
0.014786602,
|
|
||||||
-0.11868081,
|
|
||||||
-0.05042858,
|
|
||||||
0.05376578,
|
|
||||||
0.04570744,
|
|
||||||
0.074074544,
|
|
||||||
0.028540619,
|
|
||||||
0.03937392,
|
|
||||||
0.0291862,
|
|
||||||
-0.035710927,
|
|
||||||
-0.09132387,
|
|
||||||
-0.047720414,
|
|
||||||
-0.00082342024,
|
|
||||||
-0.073688805,
|
|
||||||
0.011024812,
|
|
||||||
0.015703982,
|
|
||||||
-0.03590976,
|
|
||||||
-0.08121826,
|
|
||||||
0.020365681,
|
|
||||||
-0.045287356,
|
|
||||||
-0.024955628,
|
|
||||||
0.001167751,
|
|
||||||
0.00037544646,
|
|
||||||
-0.026392939,
|
|
||||||
-0.032434102,
|
|
||||||
0.003407464,
|
|
||||||
-0.007060387,
|
|
||||||
0.024250468,
|
|
||||||
0.076347135,
|
|
||||||
0.039537415,
|
|
||||||
0.036043648,
|
|
||||||
-0.07085338
|
|
||||||
],
|
|
||||||
"index": 0,
|
|
||||||
"object": "embedding"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"object": "list",
|
|
||||||
"usage": {
|
|
||||||
"prompt_tokens": 3,
|
|
||||||
"total_tokens": 3
|
|
||||||
}
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,422 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_with_user_parameter[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://0.0.0.0:11434/v1/v1/embeddings",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"input": "Test user parameter",
|
|
||||||
"encoding_format": "base64",
|
|
||||||
"user": "test-user-123"
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/embeddings",
|
|
||||||
"model": "all-minilm:l6-v2"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.create_embedding_response.CreateEmbeddingResponse",
|
|
||||||
"__data__": {
|
|
||||||
"data": [
|
|
||||||
{
|
|
||||||
"embedding": [
|
|
||||||
0.043779343,
|
|
||||||
0.021533398,
|
|
||||||
-0.081306435,
|
|
||||||
0.010584965,
|
|
||||||
-0.079082854,
|
|
||||||
-0.03219143,
|
|
||||||
0.13092613,
|
|
||||||
0.04234389,
|
|
||||||
-0.11600539,
|
|
||||||
-0.07588513,
|
|
||||||
0.04182356,
|
|
||||||
-0.08061255,
|
|
||||||
0.038127176,
|
|
||||||
-0.010701234,
|
|
||||||
0.015768763,
|
|
||||||
-0.04193689,
|
|
||||||
0.04310592,
|
|
||||||
-0.033361685,
|
|
||||||
0.013566423,
|
|
||||||
-0.010392366,
|
|
||||||
0.015551022,
|
|
||||||
-0.037858423,
|
|
||||||
-0.050305344,
|
|
||||||
-0.025666261,
|
|
||||||
-0.047879875,
|
|
||||||
-0.087179765,
|
|
||||||
0.016856788,
|
|
||||||
-0.036765736,
|
|
||||||
0.006393739,
|
|
||||||
0.020844297,
|
|
||||||
0.11262393,
|
|
||||||
-0.002143682,
|
|
||||||
-0.07910913,
|
|
||||||
0.038748607,
|
|
||||||
0.11532516,
|
|
||||||
-0.019759571,
|
|
||||||
0.0066967797,
|
|
||||||
-0.021164352,
|
|
||||||
-0.014471563,
|
|
||||||
-0.0027048697,
|
|
||||||
-0.034388524,
|
|
||||||
-0.052571636,
|
|
||||||
-0.030607725,
|
|
||||||
0.04747725,
|
|
||||||
-0.02431059,
|
|
||||||
0.0109337615,
|
|
||||||
-0.03946421,
|
|
||||||
0.071846664,
|
|
||||||
-0.020690937,
|
|
||||||
0.01898796,
|
|
||||||
0.042931512,
|
|
||||||
-0.0077551426,
|
|
||||||
0.0025911122,
|
|
||||||
-0.058268107,
|
|
||||||
0.0117475465,
|
|
||||||
-0.022701943,
|
|
||||||
0.0017815019,
|
|
||||||
-0.012612941,
|
|
||||||
0.030724185,
|
|
||||||
0.017728312,
|
|
||||||
-0.06155491,
|
|
||||||
-0.03656162,
|
|
||||||
0.02583153,
|
|
||||||
0.02537894,
|
|
||||||
0.012139213,
|
|
||||||
0.009105951,
|
|
||||||
-0.027318193,
|
|
||||||
-0.093389414,
|
|
||||||
0.005184693,
|
|
||||||
0.007488449,
|
|
||||||
-0.07540277,
|
|
||||||
0.010159999,
|
|
||||||
-0.028444426,
|
|
||||||
0.030260745,
|
|
||||||
0.0036438918,
|
|
||||||
-0.022627153,
|
|
||||||
-0.037846327,
|
|
||||||
-0.08381657,
|
|
||||||
-0.012445195,
|
|
||||||
-0.048908208,
|
|
||||||
0.029149827,
|
|
||||||
-0.044437535,
|
|
||||||
-0.07520237,
|
|
||||||
-0.020924438,
|
|
||||||
0.06342514,
|
|
||||||
0.1629199,
|
|
||||||
0.060563333,
|
|
||||||
-0.012817673,
|
|
||||||
-0.031030292,
|
|
||||||
0.018368995,
|
|
||||||
0.11223112,
|
|
||||||
0.07292473,
|
|
||||||
-0.062686674,
|
|
||||||
-0.031803295,
|
|
||||||
-0.017489262,
|
|
||||||
0.048433464,
|
|
||||||
-0.041148387,
|
|
||||||
-0.04183779,
|
|
||||||
-0.05994369,
|
|
||||||
0.15909556,
|
|
||||||
-0.027785666,
|
|
||||||
-0.012455991,
|
|
||||||
0.056005318,
|
|
||||||
-0.019891974,
|
|
||||||
0.022063067,
|
|
||||||
0.006342065,
|
|
||||||
0.0464118,
|
|
||||||
-0.07311654,
|
|
||||||
0.033282198,
|
|
||||||
0.05949105,
|
|
||||||
-0.033307947,
|
|
||||||
0.030738499,
|
|
||||||
0.008186239,
|
|
||||||
-0.020268966,
|
|
||||||
0.056593496,
|
|
||||||
-0.081526734,
|
|
||||||
0.023390312,
|
|
||||||
0.0060836566,
|
|
||||||
-0.07992586,
|
|
||||||
0.013986445,
|
|
||||||
0.052250065,
|
|
||||||
0.027186505,
|
|
||||||
-0.049284942,
|
|
||||||
0.028148174,
|
|
||||||
0.019493744,
|
|
||||||
0.05418436,
|
|
||||||
0.0827222,
|
|
||||||
-1.8825437e-33,
|
|
||||||
0.01360945,
|
|
||||||
-0.010870715,
|
|
||||||
0.015887791,
|
|
||||||
0.069373555,
|
|
||||||
-0.051129147,
|
|
||||||
0.08999179,
|
|
||||||
0.044494778,
|
|
||||||
0.08100757,
|
|
||||||
0.018944906,
|
|
||||||
-0.020974122,
|
|
||||||
-0.017938385,
|
|
||||||
-0.021756735,
|
|
||||||
0.010972489,
|
|
||||||
0.015099965,
|
|
||||||
0.017018452,
|
|
||||||
0.094338946,
|
|
||||||
0.0034407445,
|
|
||||||
0.010244923,
|
|
||||||
-0.044709302,
|
|
||||||
0.0018059182,
|
|
||||||
0.015817573,
|
|
||||||
-0.065777056,
|
|
||||||
-0.004948138,
|
|
||||||
0.0044092103,
|
|
||||||
-0.019589791,
|
|
||||||
-0.092789896,
|
|
||||||
-0.025898295,
|
|
||||||
0.044104066,
|
|
||||||
0.0541385,
|
|
||||||
-0.007362511,
|
|
||||||
-0.021487307,
|
|
||||||
-0.036836285,
|
|
||||||
-0.09148704,
|
|
||||||
0.084001675,
|
|
||||||
-0.018094191,
|
|
||||||
0.003797567,
|
|
||||||
0.020257449,
|
|
||||||
0.04394643,
|
|
||||||
-0.0772898,
|
|
||||||
0.0057312953,
|
|
||||||
-0.054519102,
|
|
||||||
-0.024835315,
|
|
||||||
0.0753162,
|
|
||||||
0.034552757,
|
|
||||||
-0.081203006,
|
|
||||||
-0.12210961,
|
|
||||||
-0.0053012627,
|
|
||||||
0.00780717,
|
|
||||||
0.050265096,
|
|
||||||
0.015569535,
|
|
||||||
-0.056362487,
|
|
||||||
0.039800324,
|
|
||||||
0.013022089,
|
|
||||||
-0.04015537,
|
|
||||||
0.014401654,
|
|
||||||
-0.033209093,
|
|
||||||
-0.008451782,
|
|
||||||
-0.037590392,
|
|
||||||
-0.01965779,
|
|
||||||
0.01730637,
|
|
||||||
-0.00896531,
|
|
||||||
-0.0018413392,
|
|
||||||
-0.0030382746,
|
|
||||||
0.030460354,
|
|
||||||
-0.05112036,
|
|
||||||
-0.086875,
|
|
||||||
-0.018338922,
|
|
||||||
-0.11328767,
|
|
||||||
0.07325826,
|
|
||||||
0.046035297,
|
|
||||||
0.012633494,
|
|
||||||
-0.06343216,
|
|
||||||
-0.028439038,
|
|
||||||
0.020128354,
|
|
||||||
-0.07883383,
|
|
||||||
-0.00069870794,
|
|
||||||
-0.03155447,
|
|
||||||
0.12306934,
|
|
||||||
0.004300722,
|
|
||||||
-0.026421167,
|
|
||||||
0.078361824,
|
|
||||||
-0.077461444,
|
|
||||||
-0.021267027,
|
|
||||||
0.048929654,
|
|
||||||
0.02919381,
|
|
||||||
-0.0092880055,
|
|
||||||
-0.030666346,
|
|
||||||
-0.04102384,
|
|
||||||
-0.03860138,
|
|
||||||
-0.08042292,
|
|
||||||
0.023227168,
|
|
||||||
0.04191858,
|
|
||||||
-0.058156747,
|
|
||||||
0.0585743,
|
|
||||||
0.076342255,
|
|
||||||
4.465569e-34,
|
|
||||||
-0.019599343,
|
|
||||||
0.040230304,
|
|
||||||
0.01455632,
|
|
||||||
0.034345042,
|
|
||||||
0.04392999,
|
|
||||||
-0.023241352,
|
|
||||||
0.067749046,
|
|
||||||
-0.03010354,
|
|
||||||
-0.09075954,
|
|
||||||
-0.019227842,
|
|
||||||
-0.027724287,
|
|
||||||
-0.00062344945,
|
|
||||||
0.0042892746,
|
|
||||||
0.053643614,
|
|
||||||
0.04075099,
|
|
||||||
0.032581333,
|
|
||||||
-0.107116826,
|
|
||||||
-0.0500636,
|
|
||||||
-0.016655827,
|
|
||||||
-0.007782394,
|
|
||||||
-0.111523,
|
|
||||||
0.07476429,
|
|
||||||
-0.016019335,
|
|
||||||
-0.050536986,
|
|
||||||
-0.11320647,
|
|
||||||
-0.0061384854,
|
|
||||||
0.050886273,
|
|
||||||
-0.030283457,
|
|
||||||
0.04318923,
|
|
||||||
0.03301474,
|
|
||||||
0.02362771,
|
|
||||||
0.046507858,
|
|
||||||
-0.03416386,
|
|
||||||
0.036145207,
|
|
||||||
0.023037339,
|
|
||||||
-0.026803765,
|
|
||||||
0.06361122,
|
|
||||||
0.09975251,
|
|
||||||
0.035269737,
|
|
||||||
0.1554014,
|
|
||||||
0.083479255,
|
|
||||||
0.10931981,
|
|
||||||
0.046847064,
|
|
||||||
-0.010136355,
|
|
||||||
-0.032541983,
|
|
||||||
0.12926093,
|
|
||||||
0.031193413,
|
|
||||||
-0.09971323,
|
|
||||||
0.010830718,
|
|
||||||
0.02325219,
|
|
||||||
-0.011917061,
|
|
||||||
0.010155018,
|
|
||||||
0.06883269,
|
|
||||||
0.009340846,
|
|
||||||
-0.022698723,
|
|
||||||
-0.042815465,
|
|
||||||
-0.048211087,
|
|
||||||
-0.085067384,
|
|
||||||
0.05105234,
|
|
||||||
0.045155898,
|
|
||||||
-0.03564869,
|
|
||||||
0.06549556,
|
|
||||||
0.048875004,
|
|
||||||
0.037915554,
|
|
||||||
-0.14071068,
|
|
||||||
-0.067095764,
|
|
||||||
0.009898252,
|
|
||||||
-0.0049653547,
|
|
||||||
-0.044304688,
|
|
||||||
0.0039006064,
|
|
||||||
-0.026903173,
|
|
||||||
-0.066124685,
|
|
||||||
0.040738244,
|
|
||||||
-0.052228633,
|
|
||||||
0.060485654,
|
|
||||||
-0.041119356,
|
|
||||||
-0.04312945,
|
|
||||||
-0.025152665,
|
|
||||||
0.08556276,
|
|
||||||
-0.044942576,
|
|
||||||
0.06393979,
|
|
||||||
-0.024227533,
|
|
||||||
-0.05052092,
|
|
||||||
-0.0020624825,
|
|
||||||
-0.078943975,
|
|
||||||
0.0026753,
|
|
||||||
0.02068896,
|
|
||||||
0.102683865,
|
|
||||||
-0.01237572,
|
|
||||||
0.056172684,
|
|
||||||
0.06552171,
|
|
||||||
0.030940128,
|
|
||||||
-0.07721113,
|
|
||||||
-0.061241012,
|
|
||||||
-0.016143149,
|
|
||||||
-1.3511957e-08,
|
|
||||||
-0.050416306,
|
|
||||||
-0.033628013,
|
|
||||||
0.046722032,
|
|
||||||
0.04744138,
|
|
||||||
-0.04411888,
|
|
||||||
0.04631675,
|
|
||||||
-0.0060847937,
|
|
||||||
-0.053873356,
|
|
||||||
0.013075445,
|
|
||||||
0.050437532,
|
|
||||||
-0.009895477,
|
|
||||||
-0.0041795173,
|
|
||||||
0.07229928,
|
|
||||||
0.021081135,
|
|
||||||
0.02672776,
|
|
||||||
-0.07482113,
|
|
||||||
-0.026757998,
|
|
||||||
0.052755926,
|
|
||||||
-0.034690056,
|
|
||||||
0.039811596,
|
|
||||||
-0.016370349,
|
|
||||||
0.045900222,
|
|
||||||
-0.02250936,
|
|
||||||
0.023861,
|
|
||||||
0.04912799,
|
|
||||||
0.09111738,
|
|
||||||
-0.0024878879,
|
|
||||||
0.049395334,
|
|
||||||
-0.03861115,
|
|
||||||
0.020867983,
|
|
||||||
0.076049894,
|
|
||||||
0.084881924,
|
|
||||||
-0.051956687,
|
|
||||||
-0.06878504,
|
|
||||||
-0.061384037,
|
|
||||||
0.077220954,
|
|
||||||
-0.06454818,
|
|
||||||
0.044513144,
|
|
||||||
0.008181126,
|
|
||||||
0.015890416,
|
|
||||||
-0.04280811,
|
|
||||||
0.005317184,
|
|
||||||
0.0034429359,
|
|
||||||
0.0031937633,
|
|
||||||
-0.013058055,
|
|
||||||
-0.09134677,
|
|
||||||
0.06425565,
|
|
||||||
-0.054977305,
|
|
||||||
0.0007087448,
|
|
||||||
-0.06258866,
|
|
||||||
-0.034974415,
|
|
||||||
-0.029966963,
|
|
||||||
0.044276785,
|
|
||||||
0.017868131,
|
|
||||||
-0.027976807,
|
|
||||||
-0.036579583,
|
|
||||||
0.021142753,
|
|
||||||
0.06057356,
|
|
||||||
-0.03133335,
|
|
||||||
-0.014331035,
|
|
||||||
0.034653842,
|
|
||||||
0.052315667,
|
|
||||||
-0.036585484,
|
|
||||||
0.028209662
|
|
||||||
],
|
|
||||||
"index": 0,
|
|
||||||
"object": "embedding"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"object": "list",
|
|
||||||
"usage": {
|
|
||||||
"prompt_tokens": 3,
|
|
||||||
"total_tokens": 3
|
|
||||||
}
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,421 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_different_inputs_different_outputs[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://0.0.0.0:11434/v1/v1/embeddings",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"input": "This is completely different content",
|
|
||||||
"encoding_format": "float"
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/embeddings",
|
|
||||||
"model": "all-minilm:l6-v2"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.create_embedding_response.CreateEmbeddingResponse",
|
|
||||||
"__data__": {
|
|
||||||
"data": [
|
|
||||||
{
|
|
||||||
"embedding": [
|
|
||||||
0.050927628,
|
|
||||||
0.038399037,
|
|
||||||
-0.05559374,
|
|
||||||
-0.105984606,
|
|
||||||
0.06944504,
|
|
||||||
-0.08054001,
|
|
||||||
-0.025946686,
|
|
||||||
-0.045175657,
|
|
||||||
0.068730615,
|
|
||||||
0.016510814,
|
|
||||||
-0.0011700827,
|
|
||||||
0.023414683,
|
|
||||||
-0.0034143464,
|
|
||||||
0.06804153,
|
|
||||||
-0.021997927,
|
|
||||||
-0.014162646,
|
|
||||||
0.12356902,
|
|
||||||
-0.06536738,
|
|
||||||
-0.082627006,
|
|
||||||
0.04300477,
|
|
||||||
-0.039514318,
|
|
||||||
0.055434275,
|
|
||||||
-0.008866895,
|
|
||||||
0.020934915,
|
|
||||||
0.016280092,
|
|
||||||
0.09630312,
|
|
||||||
-0.022835929,
|
|
||||||
0.09175565,
|
|
||||||
0.06409549,
|
|
||||||
-0.06226981,
|
|
||||||
0.010888244,
|
|
||||||
0.07833004,
|
|
||||||
0.08844764,
|
|
||||||
-0.008459277,
|
|
||||||
-0.07542651,
|
|
||||||
0.04800223,
|
|
||||||
0.0042286967,
|
|
||||||
0.037884884,
|
|
||||||
0.0023502677,
|
|
||||||
0.032233667,
|
|
||||||
0.0047689923,
|
|
||||||
-0.070404515,
|
|
||||||
-0.06513966,
|
|
||||||
0.061046362,
|
|
||||||
0.021522248,
|
|
||||||
0.10113185,
|
|
||||||
-0.07537441,
|
|
||||||
-0.04074795,
|
|
||||||
-0.0055522234,
|
|
||||||
-0.0037093374,
|
|
||||||
-0.021283673,
|
|
||||||
-0.018193243,
|
|
||||||
-0.03323253,
|
|
||||||
-0.015658593,
|
|
||||||
0.0032862085,
|
|
||||||
0.037399907,
|
|
||||||
-0.021028537,
|
|
||||||
0.052572608,
|
|
||||||
0.10211333,
|
|
||||||
-0.018634265,
|
|
||||||
0.03612266,
|
|
||||||
0.08958185,
|
|
||||||
0.050681055,
|
|
||||||
0.019839589,
|
|
||||||
0.10220134,
|
|
||||||
-0.059074707,
|
|
||||||
-0.045562137,
|
|
||||||
-0.024107283,
|
|
||||||
-0.059917513,
|
|
||||||
-0.09795064,
|
|
||||||
-0.002078402,
|
|
||||||
0.032211803,
|
|
||||||
0.04863422,
|
|
||||||
0.08062527,
|
|
||||||
0.022614514,
|
|
||||||
0.0005379622,
|
|
||||||
-0.0015465368,
|
|
||||||
0.010018953,
|
|
||||||
-0.089729026,
|
|
||||||
0.023838207,
|
|
||||||
-0.015227461,
|
|
||||||
-0.020540234,
|
|
||||||
0.08525423,
|
|
||||||
-0.08025672,
|
|
||||||
-0.002200058,
|
|
||||||
0.0649954,
|
|
||||||
-0.023069935,
|
|
||||||
-0.06201302,
|
|
||||||
-0.06545048,
|
|
||||||
-0.029986514,
|
|
||||||
0.0045501734,
|
|
||||||
0.09718718,
|
|
||||||
0.09153336,
|
|
||||||
-0.0059684636,
|
|
||||||
-0.048185453,
|
|
||||||
-0.011855243,
|
|
||||||
-0.03170323,
|
|
||||||
-0.010363732,
|
|
||||||
0.029717747,
|
|
||||||
0.103405535,
|
|
||||||
-0.029072085,
|
|
||||||
0.005597891,
|
|
||||||
-0.03075466,
|
|
||||||
-0.011073092,
|
|
||||||
-0.038647823,
|
|
||||||
-0.01590583,
|
|
||||||
0.0008562756,
|
|
||||||
0.03479237,
|
|
||||||
0.0039463183,
|
|
||||||
-0.020063022,
|
|
||||||
-0.048164852,
|
|
||||||
0.026510539,
|
|
||||||
-0.061183933,
|
|
||||||
-0.046969693,
|
|
||||||
0.02144617,
|
|
||||||
-0.048452575,
|
|
||||||
0.02205527,
|
|
||||||
0.015723849,
|
|
||||||
0.056344535,
|
|
||||||
0.055321235,
|
|
||||||
0.037136998,
|
|
||||||
-0.08872732,
|
|
||||||
0.011813868,
|
|
||||||
0.0064246035,
|
|
||||||
-0.020590257,
|
|
||||||
-0.059401207,
|
|
||||||
0.012338125,
|
|
||||||
-2.4301395e-33,
|
|
||||||
0.068363585,
|
|
||||||
-0.05303797,
|
|
||||||
0.011494271,
|
|
||||||
0.06953355,
|
|
||||||
0.013304427,
|
|
||||||
0.0020351785,
|
|
||||||
-0.020783585,
|
|
||||||
0.028951883,
|
|
||||||
0.034663863,
|
|
||||||
-0.03274387,
|
|
||||||
0.00095708756,
|
|
||||||
0.008672852,
|
|
||||||
0.007618213,
|
|
||||||
-0.024579093,
|
|
||||||
0.030253874,
|
|
||||||
-0.034167152,
|
|
||||||
-0.0315152,
|
|
||||||
0.1105276,
|
|
||||||
0.03499844,
|
|
||||||
0.045135163,
|
|
||||||
0.00044455956,
|
|
||||||
0.051429555,
|
|
||||||
0.015050582,
|
|
||||||
-0.009024664,
|
|
||||||
0.023132037,
|
|
||||||
0.05141033,
|
|
||||||
-0.00417506,
|
|
||||||
0.004720958,
|
|
||||||
-0.016197585,
|
|
||||||
-0.025692327,
|
|
||||||
-0.024077175,
|
|
||||||
-0.00953031,
|
|
||||||
0.05060433,
|
|
||||||
-0.058328744,
|
|
||||||
0.04903431,
|
|
||||||
0.07964924,
|
|
||||||
0.03599398,
|
|
||||||
-0.065374464,
|
|
||||||
-0.035382472,
|
|
||||||
-0.07028972,
|
|
||||||
-0.009750123,
|
|
||||||
-0.031909473,
|
|
||||||
-0.04101604,
|
|
||||||
-0.041144423,
|
|
||||||
-0.036323845,
|
|
||||||
0.06685511,
|
|
||||||
0.016679594,
|
|
||||||
-0.048498012,
|
|
||||||
-0.015474575,
|
|
||||||
-0.00048608257,
|
|
||||||
0.03267068,
|
|
||||||
-0.010890426,
|
|
||||||
0.016646467,
|
|
||||||
-0.057286758,
|
|
||||||
0.008073807,
|
|
||||||
0.008808943,
|
|
||||||
-0.061580453,
|
|
||||||
-0.010815387,
|
|
||||||
0.0717443,
|
|
||||||
0.08607838,
|
|
||||||
0.014073375,
|
|
||||||
0.014896061,
|
|
||||||
-0.098295614,
|
|
||||||
-0.046653833,
|
|
||||||
0.033601493,
|
|
||||||
0.0647405,
|
|
||||||
-0.007525925,
|
|
||||||
0.025440095,
|
|
||||||
0.04171436,
|
|
||||||
-0.033113986,
|
|
||||||
-0.014553822,
|
|
||||||
0.024878975,
|
|
||||||
0.045614205,
|
|
||||||
-0.042929318,
|
|
||||||
-0.040504646,
|
|
||||||
-0.06304663,
|
|
||||||
-0.022389242,
|
|
||||||
0.010583584,
|
|
||||||
-0.032525852,
|
|
||||||
-0.03146621,
|
|
||||||
0.0081922775,
|
|
||||||
0.021094568,
|
|
||||||
0.0095269885,
|
|
||||||
-0.08290188,
|
|
||||||
-0.021351986,
|
|
||||||
0.008777032,
|
|
||||||
0.060185786,
|
|
||||||
-0.062182017,
|
|
||||||
0.004518251,
|
|
||||||
0.05684528,
|
|
||||||
-0.013033095,
|
|
||||||
0.01867297,
|
|
||||||
-0.008998785,
|
|
||||||
-0.076766245,
|
|
||||||
0.051622886,
|
|
||||||
1.6926977e-33,
|
|
||||||
-0.12588808,
|
|
||||||
0.011676749,
|
|
||||||
-0.079886116,
|
|
||||||
0.02304184,
|
|
||||||
0.029238446,
|
|
||||||
0.08721121,
|
|
||||||
0.06906221,
|
|
||||||
0.032533444,
|
|
||||||
0.047794122,
|
|
||||||
0.13212898,
|
|
||||||
0.03129717,
|
|
||||||
-0.0125368,
|
|
||||||
0.0035920327,
|
|
||||||
-0.016413208,
|
|
||||||
-0.038557872,
|
|
||||||
0.016005918,
|
|
||||||
0.09166447,
|
|
||||||
0.047558285,
|
|
||||||
-0.054981478,
|
|
||||||
0.06797876,
|
|
||||||
0.017968502,
|
|
||||||
0.118666455,
|
|
||||||
-0.069318265,
|
|
||||||
0.043814093,
|
|
||||||
0.04150938,
|
|
||||||
-0.017812226,
|
|
||||||
0.051738504,
|
|
||||||
0.06795029,
|
|
||||||
0.080493495,
|
|
||||||
0.005386888,
|
|
||||||
0.08878265,
|
|
||||||
-0.036075104,
|
|
||||||
-0.07708273,
|
|
||||||
-0.09101018,
|
|
||||||
-0.09597232,
|
|
||||||
-0.0937606,
|
|
||||||
-0.06200779,
|
|
||||||
0.06722552,
|
|
||||||
-0.0006647803,
|
|
||||||
0.029067127,
|
|
||||||
0.08179574,
|
|
||||||
-0.06488274,
|
|
||||||
-0.050375167,
|
|
||||||
-0.002403243,
|
|
||||||
-0.026110265,
|
|
||||||
-0.007630271,
|
|
||||||
0.011972527,
|
|
||||||
-0.08573929,
|
|
||||||
0.04107404,
|
|
||||||
0.024723932,
|
|
||||||
-0.02222756,
|
|
||||||
-0.11560156,
|
|
||||||
0.006753066,
|
|
||||||
-0.04589066,
|
|
||||||
-0.06369223,
|
|
||||||
0.053635046,
|
|
||||||
0.005769477,
|
|
||||||
0.06325056,
|
|
||||||
0.0048679966,
|
|
||||||
-0.057087842,
|
|
||||||
0.041931894,
|
|
||||||
0.022344982,
|
|
||||||
-0.14709935,
|
|
||||||
0.026361033,
|
|
||||||
0.106274396,
|
|
||||||
-0.0059068515,
|
|
||||||
0.020035667,
|
|
||||||
0.034950804,
|
|
||||||
-0.03342695,
|
|
||||||
-0.03884034,
|
|
||||||
-0.076072656,
|
|
||||||
-0.11173452,
|
|
||||||
-0.038953967,
|
|
||||||
-0.10270519,
|
|
||||||
0.04714134,
|
|
||||||
-0.049391687,
|
|
||||||
0.074747935,
|
|
||||||
0.041724026,
|
|
||||||
-0.031083144,
|
|
||||||
0.0033830043,
|
|
||||||
0.055804495,
|
|
||||||
-0.031882074,
|
|
||||||
-0.02541756,
|
|
||||||
0.050101582,
|
|
||||||
0.035991114,
|
|
||||||
0.09143438,
|
|
||||||
-0.07581111,
|
|
||||||
-0.050589707,
|
|
||||||
0.0074097887,
|
|
||||||
-0.0014020415,
|
|
||||||
-0.05036443,
|
|
||||||
-0.0015289022,
|
|
||||||
0.005471816,
|
|
||||||
0.07689256,
|
|
||||||
0.014164922,
|
|
||||||
-1.8297508e-08,
|
|
||||||
0.029913928,
|
|
||||||
-0.057959806,
|
|
||||||
-0.06846765,
|
|
||||||
0.026196472,
|
|
||||||
-0.0035178436,
|
|
||||||
0.11374637,
|
|
||||||
0.056845777,
|
|
||||||
-0.09315407,
|
|
||||||
0.0027757618,
|
|
||||||
0.10895455,
|
|
||||||
-0.033027817,
|
|
||||||
0.005051668,
|
|
||||||
-0.043633904,
|
|
||||||
-0.048978273,
|
|
||||||
0.011912417,
|
|
||||||
0.059747256,
|
|
||||||
-0.08661686,
|
|
||||||
-0.052748058,
|
|
||||||
0.026321623,
|
|
||||||
0.042173225,
|
|
||||||
-0.0035451513,
|
|
||||||
0.03797019,
|
|
||||||
0.022595786,
|
|
||||||
-0.0614702,
|
|
||||||
0.01268269,
|
|
||||||
0.040893063,
|
|
||||||
-0.084825225,
|
|
||||||
0.041167296,
|
|
||||||
-0.038163006,
|
|
||||||
0.008364558,
|
|
||||||
0.01014753,
|
|
||||||
0.024994388,
|
|
||||||
-0.012504467,
|
|
||||||
-0.045078665,
|
|
||||||
0.0102669485,
|
|
||||||
-0.046302866,
|
|
||||||
0.061438397,
|
|
||||||
0.016235871,
|
|
||||||
-0.0011558776,
|
|
||||||
0.007455159,
|
|
||||||
-0.019448454,
|
|
||||||
-0.06798961,
|
|
||||||
0.05472832,
|
|
||||||
0.09646006,
|
|
||||||
-0.04711737,
|
|
||||||
0.060088705,
|
|
||||||
0.0030213061,
|
|
||||||
-0.08877283,
|
|
||||||
0.037262574,
|
|
||||||
-0.009947699,
|
|
||||||
0.0035697597,
|
|
||||||
-0.07833652,
|
|
||||||
0.02169359,
|
|
||||||
-0.013075168,
|
|
||||||
0.072521746,
|
|
||||||
-0.0649658,
|
|
||||||
-0.029920656,
|
|
||||||
-0.017777385,
|
|
||||||
0.033904497,
|
|
||||||
0.02919506,
|
|
||||||
0.08793891,
|
|
||||||
0.008437021,
|
|
||||||
0.064442866,
|
|
||||||
-0.01656208
|
|
||||||
],
|
|
||||||
"index": 0,
|
|
||||||
"object": "embedding"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"object": "list",
|
|
||||||
"usage": {
|
|
||||||
"prompt_tokens": 5,
|
|
||||||
"total_tokens": 5
|
|
||||||
}
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_with_encoding_format_float[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:35:05.205358-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b-instruct-fp16",
|
|
||||||
"name": "llama3.2:3b-instruct-fp16",
|
|
||||||
"digest": "195a8c01d91ec3cb1e0aad4624a51f2602c51fa7d96110f8ab5a20c84081804d",
|
|
||||||
"expires_at": "2025-10-08T11:35:04.346635-07:00",
|
|
||||||
"size": 7919570944,
|
|
||||||
"size_vram": 7919570944,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_different_inputs_different_outputs[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:32:11.182572-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama-guard3:1b",
|
|
||||||
"name": "llama-guard3:1b",
|
|
||||||
"digest": "494147e06bf99e10dbe67b63a07ac81c162f18ef3341aa3390007ac828571b3b",
|
|
||||||
"expires_at": "2025-10-08T11:30:00.392919-07:00",
|
|
||||||
"size": 2350966784,
|
|
||||||
"size_vram": 2350966784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "1.5B",
|
|
||||||
"quantization_level": "Q8_0"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,421 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_with_encoding_format_float[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://0.0.0.0:11434/v1/v1/embeddings",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"input": "Test encoding format",
|
|
||||||
"encoding_format": "float"
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/embeddings",
|
|
||||||
"model": "all-minilm:l6-v2"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.create_embedding_response.CreateEmbeddingResponse",
|
|
||||||
"__data__": {
|
|
||||||
"data": [
|
|
||||||
{
|
|
||||||
"embedding": [
|
|
||||||
0.019109152,
|
|
||||||
-0.0205217,
|
|
||||||
-0.071471564,
|
|
||||||
-0.023057504,
|
|
||||||
-0.06572786,
|
|
||||||
-0.0057331678,
|
|
||||||
-0.029395059,
|
|
||||||
-0.031822033,
|
|
||||||
-0.015748156,
|
|
||||||
-0.039123703,
|
|
||||||
0.02694331,
|
|
||||||
-0.0641754,
|
|
||||||
0.013510709,
|
|
||||||
0.050364953,
|
|
||||||
-0.03114308,
|
|
||||||
-0.08322274,
|
|
||||||
-0.03192984,
|
|
||||||
0.074970365,
|
|
||||||
-0.016377378,
|
|
||||||
-0.0013804765,
|
|
||||||
0.03850419,
|
|
||||||
-0.03441017,
|
|
||||||
-0.0048610102,
|
|
||||||
-0.03094053,
|
|
||||||
0.051915165,
|
|
||||||
0.009193639,
|
|
||||||
0.0071807485,
|
|
||||||
0.066353165,
|
|
||||||
0.024559105,
|
|
||||||
-0.04767663,
|
|
||||||
0.0376255,
|
|
||||||
-0.042586852,
|
|
||||||
0.078906916,
|
|
||||||
0.04827334,
|
|
||||||
0.13389648,
|
|
||||||
0.013978803,
|
|
||||||
0.03242126,
|
|
||||||
-0.08890431,
|
|
||||||
-0.014188366,
|
|
||||||
0.03553346,
|
|
||||||
-0.02476171,
|
|
||||||
-0.028628638,
|
|
||||||
0.047652308,
|
|
||||||
0.026259335,
|
|
||||||
0.048472118,
|
|
||||||
0.06663718,
|
|
||||||
-0.013584004,
|
|
||||||
0.071824096,
|
|
||||||
-0.073066786,
|
|
||||||
-0.050326068,
|
|
||||||
0.0039502876,
|
|
||||||
0.03300394,
|
|
||||||
-0.047816053,
|
|
||||||
-0.017657546,
|
|
||||||
0.010284664,
|
|
||||||
-0.10525716,
|
|
||||||
-0.010034394,
|
|
||||||
0.014627846,
|
|
||||||
-0.053289402,
|
|
||||||
0.060343288,
|
|
||||||
-0.10079798,
|
|
||||||
0.011359217,
|
|
||||||
-0.007258805,
|
|
||||||
0.05346498,
|
|
||||||
-0.0068726647,
|
|
||||||
0.03697505,
|
|
||||||
0.024016414,
|
|
||||||
0.023924585,
|
|
||||||
-0.011357761,
|
|
||||||
-0.119573325,
|
|
||||||
-0.115692526,
|
|
||||||
-0.06673285,
|
|
||||||
-0.04233929,
|
|
||||||
0.09302018,
|
|
||||||
0.02486003,
|
|
||||||
0.084047645,
|
|
||||||
0.0030104683,
|
|
||||||
-0.06605523,
|
|
||||||
0.027435688,
|
|
||||||
-0.032412402,
|
|
||||||
-0.025584543,
|
|
||||||
-0.06590182,
|
|
||||||
0.067799605,
|
|
||||||
0.0976311,
|
|
||||||
0.07360619,
|
|
||||||
0.034108408,
|
|
||||||
0.056534845,
|
|
||||||
0.076705806,
|
|
||||||
-0.05179011,
|
|
||||||
0.053681813,
|
|
||||||
0.0054462817,
|
|
||||||
0.015972052,
|
|
||||||
0.0035656213,
|
|
||||||
0.06333522,
|
|
||||||
-0.01597322,
|
|
||||||
0.05295729,
|
|
||||||
0.11539089,
|
|
||||||
0.055200845,
|
|
||||||
0.037667733,
|
|
||||||
0.08083974,
|
|
||||||
0.035557732,
|
|
||||||
-0.07982552,
|
|
||||||
-0.012100598,
|
|
||||||
-0.07612801,
|
|
||||||
-0.0695667,
|
|
||||||
-0.017815348,
|
|
||||||
0.16996554,
|
|
||||||
-0.0048157335,
|
|
||||||
0.09073964,
|
|
||||||
-0.07196438,
|
|
||||||
0.020009195,
|
|
||||||
-0.05956153,
|
|
||||||
-0.06312686,
|
|
||||||
-0.07716358,
|
|
||||||
0.0150949685,
|
|
||||||
-0.050339524,
|
|
||||||
-0.05444592,
|
|
||||||
-0.023078114,
|
|
||||||
-0.035431463,
|
|
||||||
-0.030625492,
|
|
||||||
-0.053284056,
|
|
||||||
-0.06745872,
|
|
||||||
-0.08049862,
|
|
||||||
0.002800386,
|
|
||||||
-0.0114065055,
|
|
||||||
-0.029938627,
|
|
||||||
0.024243163,
|
|
||||||
-1.5107368e-33,
|
|
||||||
-0.02984805,
|
|
||||||
-0.00033025863,
|
|
||||||
0.0030491,
|
|
||||||
0.023082128,
|
|
||||||
-0.04808977,
|
|
||||||
-0.0027841914,
|
|
||||||
-0.037461873,
|
|
||||||
0.016201235,
|
|
||||||
-0.02998979,
|
|
||||||
0.015712254,
|
|
||||||
0.009664366,
|
|
||||||
-0.03984875,
|
|
||||||
-0.029493092,
|
|
||||||
0.03837007,
|
|
||||||
-0.005226541,
|
|
||||||
0.06857773,
|
|
||||||
-0.007891026,
|
|
||||||
-0.0019036188,
|
|
||||||
-0.035219382,
|
|
||||||
0.03627955,
|
|
||||||
0.05867878,
|
|
||||||
0.023777487,
|
|
||||||
0.044425115,
|
|
||||||
-0.025999734,
|
|
||||||
-0.025318418,
|
|
||||||
-0.02685328,
|
|
||||||
-0.02368557,
|
|
||||||
-0.094386704,
|
|
||||||
0.0016880591,
|
|
||||||
0.0065193563,
|
|
||||||
-0.09711005,
|
|
||||||
-0.053493332,
|
|
||||||
-0.08241291,
|
|
||||||
0.023502836,
|
|
||||||
-0.02407441,
|
|
||||||
0.015992055,
|
|
||||||
0.0050546136,
|
|
||||||
0.030476829,
|
|
||||||
-0.088438906,
|
|
||||||
0.11427086,
|
|
||||||
0.028378993,
|
|
||||||
0.02985018,
|
|
||||||
0.022821706,
|
|
||||||
0.018776013,
|
|
||||||
0.056330692,
|
|
||||||
-0.020254886,
|
|
||||||
-0.00070521404,
|
|
||||||
-0.0864014,
|
|
||||||
0.020228866,
|
|
||||||
-0.0039839754,
|
|
||||||
0.0010032665,
|
|
||||||
0.065425254,
|
|
||||||
-0.036518592,
|
|
||||||
0.032341316,
|
|
||||||
0.023112345,
|
|
||||||
0.044507477,
|
|
||||||
0.09644409,
|
|
||||||
-0.07272818,
|
|
||||||
0.03370691,
|
|
||||||
0.042783204,
|
|
||||||
-0.052776046,
|
|
||||||
0.0003352446,
|
|
||||||
0.061005518,
|
|
||||||
-0.019623613,
|
|
||||||
-0.023274273,
|
|
||||||
-0.11602989,
|
|
||||||
0.007926991,
|
|
||||||
-0.12529127,
|
|
||||||
0.017030548,
|
|
||||||
0.013484081,
|
|
||||||
-0.030528491,
|
|
||||||
-0.024298145,
|
|
||||||
0.006284904,
|
|
||||||
-0.015568167,
|
|
||||||
-0.072781205,
|
|
||||||
0.012985074,
|
|
||||||
0.015977127,
|
|
||||||
0.0051657534,
|
|
||||||
-0.0026022948,
|
|
||||||
-0.059578825,
|
|
||||||
0.06372584,
|
|
||||||
-0.0019363016,
|
|
||||||
0.018695941,
|
|
||||||
-0.009242735,
|
|
||||||
-0.05887247,
|
|
||||||
-0.032524884,
|
|
||||||
-0.009591115,
|
|
||||||
-0.047377545,
|
|
||||||
0.020585002,
|
|
||||||
-0.007134836,
|
|
||||||
0.050135154,
|
|
||||||
0.016087264,
|
|
||||||
-0.0058878902,
|
|
||||||
-0.07661024,
|
|
||||||
0.0820671,
|
|
||||||
1.6053074e-33,
|
|
||||||
-0.0056476775,
|
|
||||||
0.06719423,
|
|
||||||
-0.011510322,
|
|
||||||
0.05586423,
|
|
||||||
-0.08886697,
|
|
||||||
-0.036528286,
|
|
||||||
0.12134926,
|
|
||||||
0.028969096,
|
|
||||||
0.022419011,
|
|
||||||
0.047327086,
|
|
||||||
0.07621525,
|
|
||||||
-0.07937209,
|
|
||||||
0.0020504447,
|
|
||||||
-0.023489932,
|
|
||||||
-0.029759271,
|
|
||||||
-0.04879825,
|
|
||||||
-0.034876924,
|
|
||||||
0.06461666,
|
|
||||||
0.051493492,
|
|
||||||
0.008284975,
|
|
||||||
-0.031793926,
|
|
||||||
0.098015875,
|
|
||||||
0.008122038,
|
|
||||||
0.01032072,
|
|
||||||
0.059404474,
|
|
||||||
0.05176487,
|
|
||||||
0.042960417,
|
|
||||||
0.0069373515,
|
|
||||||
0.027306866,
|
|
||||||
0.039226852,
|
|
||||||
0.062416088,
|
|
||||||
0.051797673,
|
|
||||||
0.0053232666,
|
|
||||||
0.05965781,
|
|
||||||
-0.008935817,
|
|
||||||
-0.0135501,
|
|
||||||
0.08726531,
|
|
||||||
0.028408607,
|
|
||||||
-0.006820522,
|
|
||||||
0.052098107,
|
|
||||||
0.049510423,
|
|
||||||
0.055176627,
|
|
||||||
-0.016774576,
|
|
||||||
0.077848226,
|
|
||||||
0.026121203,
|
|
||||||
0.031311177,
|
|
||||||
0.011812256,
|
|
||||||
-0.0341528,
|
|
||||||
0.052825138,
|
|
||||||
0.003484205,
|
|
||||||
0.09811821,
|
|
||||||
0.029693138,
|
|
||||||
-0.031354938,
|
|
||||||
-0.012068096,
|
|
||||||
0.018686052,
|
|
||||||
-0.032609653,
|
|
||||||
-0.09638639,
|
|
||||||
0.033928476,
|
|
||||||
-0.07897009,
|
|
||||||
-0.008300913,
|
|
||||||
-0.04915284,
|
|
||||||
0.02006342,
|
|
||||||
0.061743837,
|
|
||||||
-0.018412542,
|
|
||||||
-0.033583082,
|
|
||||||
-0.090903476,
|
|
||||||
0.021116566,
|
|
||||||
-0.022445552,
|
|
||||||
-0.011814237,
|
|
||||||
-0.048816226,
|
|
||||||
0.048287436,
|
|
||||||
-0.07294675,
|
|
||||||
-0.02198573,
|
|
||||||
0.062477604,
|
|
||||||
0.023308119,
|
|
||||||
-0.052141402,
|
|
||||||
-0.05409648,
|
|
||||||
0.062339973,
|
|
||||||
0.052301563,
|
|
||||||
0.051384836,
|
|
||||||
-0.02426406,
|
|
||||||
-0.018824687,
|
|
||||||
-0.01660311,
|
|
||||||
0.09330242,
|
|
||||||
0.008502433,
|
|
||||||
0.063408315,
|
|
||||||
0.019377569,
|
|
||||||
0.047027417,
|
|
||||||
-0.0058769877,
|
|
||||||
-0.0034505578,
|
|
||||||
0.07956527,
|
|
||||||
0.10210641,
|
|
||||||
0.015302805,
|
|
||||||
0.04089992,
|
|
||||||
0.038895626,
|
|
||||||
-1.2710905e-08,
|
|
||||||
-0.019304764,
|
|
||||||
-0.1217849,
|
|
||||||
-0.047983564,
|
|
||||||
-0.053382736,
|
|
||||||
-0.113197215,
|
|
||||||
0.05181196,
|
|
||||||
-0.10498226,
|
|
||||||
-0.08524135,
|
|
||||||
0.0061870585,
|
|
||||||
-0.029899841,
|
|
||||||
0.064561576,
|
|
||||||
-0.028730206,
|
|
||||||
-0.064735174,
|
|
||||||
-0.024887148,
|
|
||||||
0.0026119591,
|
|
||||||
-0.008796896,
|
|
||||||
0.030246036,
|
|
||||||
0.009807871,
|
|
||||||
0.0044631795,
|
|
||||||
0.0851423,
|
|
||||||
-0.026132204,
|
|
||||||
0.11360852,
|
|
||||||
-0.0045760865,
|
|
||||||
-0.036643907,
|
|
||||||
-0.09078616,
|
|
||||||
0.081466354,
|
|
||||||
0.012066122,
|
|
||||||
0.07288108,
|
|
||||||
0.004079195,
|
|
||||||
-0.05064171,
|
|
||||||
0.068772145,
|
|
||||||
0.029108258,
|
|
||||||
0.014786602,
|
|
||||||
-0.11868081,
|
|
||||||
-0.05042858,
|
|
||||||
0.05376578,
|
|
||||||
0.04570744,
|
|
||||||
0.074074544,
|
|
||||||
0.028540619,
|
|
||||||
0.03937392,
|
|
||||||
0.0291862,
|
|
||||||
-0.035710927,
|
|
||||||
-0.09132387,
|
|
||||||
-0.047720414,
|
|
||||||
-0.00082342024,
|
|
||||||
-0.073688805,
|
|
||||||
0.011024812,
|
|
||||||
0.015703982,
|
|
||||||
-0.03590976,
|
|
||||||
-0.08121826,
|
|
||||||
0.020365681,
|
|
||||||
-0.045287356,
|
|
||||||
-0.024955628,
|
|
||||||
0.001167751,
|
|
||||||
0.00037544646,
|
|
||||||
-0.026392939,
|
|
||||||
-0.032434102,
|
|
||||||
0.003407464,
|
|
||||||
-0.007060387,
|
|
||||||
0.024250468,
|
|
||||||
0.076347135,
|
|
||||||
0.039537415,
|
|
||||||
0.036043648,
|
|
||||||
-0.07085338
|
|
||||||
],
|
|
||||||
"index": 0,
|
|
||||||
"object": "embedding"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"object": "list",
|
|
||||||
"usage": {
|
|
||||||
"prompt_tokens": 3,
|
|
||||||
"total_tokens": 3
|
|
||||||
}
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,54 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_with_dimensions[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://0.0.0.0:11434/v1/v1/embeddings",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"input": "Test dimensions parameter",
|
|
||||||
"encoding_format": "base64",
|
|
||||||
"dimensions": 16
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/embeddings",
|
|
||||||
"model": "all-minilm:l6-v2"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.create_embedding_response.CreateEmbeddingResponse",
|
|
||||||
"__data__": {
|
|
||||||
"data": [
|
|
||||||
{
|
|
||||||
"embedding": [
|
|
||||||
0.25369987,
|
|
||||||
0.016355688,
|
|
||||||
-0.29676768,
|
|
||||||
0.316427,
|
|
||||||
-0.18642858,
|
|
||||||
0.076206245,
|
|
||||||
-0.031503417,
|
|
||||||
0.29860005,
|
|
||||||
-0.496603,
|
|
||||||
-0.36621967,
|
|
||||||
0.25334543,
|
|
||||||
-0.333392,
|
|
||||||
0.005993569,
|
|
||||||
0.14079759,
|
|
||||||
-0.13775977,
|
|
||||||
-0.14680246
|
|
||||||
],
|
|
||||||
"index": 0,
|
|
||||||
"object": "embedding"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"object": "list",
|
|
||||||
"usage": {
|
|
||||||
"prompt_tokens": 3,
|
|
||||||
"total_tokens": 3
|
|
||||||
}
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_base64_batch_processing[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:32:11.451164-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama-guard3:1b",
|
|
||||||
"name": "llama-guard3:1b",
|
|
||||||
"digest": "494147e06bf99e10dbe67b63a07ac81c162f18ef3341aa3390007ac828571b3b",
|
|
||||||
"expires_at": "2025-10-08T11:30:00.392919-07:00",
|
|
||||||
"size": 2350966784,
|
|
||||||
"size_vram": 2350966784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "1.5B",
|
|
||||||
"quantization_level": "Q8_0"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_invalid_model_error[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:32:11.182572-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama-guard3:1b",
|
|
||||||
"name": "llama-guard3:1b",
|
|
||||||
"digest": "494147e06bf99e10dbe67b63a07ac81c162f18ef3341aa3390007ac828571b3b",
|
|
||||||
"expires_at": "2025-10-08T11:30:00.392919-07:00",
|
|
||||||
"size": 2350966784,
|
|
||||||
"size_vram": 2350966784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "1.5B",
|
|
||||||
"quantization_level": "Q8_0"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_with_encoding_format_float[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:32:10.878462-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama-guard3:1b",
|
|
||||||
"name": "llama-guard3:1b",
|
|
||||||
"digest": "494147e06bf99e10dbe67b63a07ac81c162f18ef3341aa3390007ac828571b3b",
|
|
||||||
"expires_at": "2025-10-08T11:30:00.392919-07:00",
|
|
||||||
"size": 2350966784,
|
|
||||||
"size_vram": 2350966784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "1.5B",
|
|
||||||
"quantization_level": "Q8_0"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_with_dimensions[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:35:05.320154-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b-instruct-fp16",
|
|
||||||
"name": "llama3.2:3b-instruct-fp16",
|
|
||||||
"digest": "195a8c01d91ec3cb1e0aad4624a51f2602c51fa7d96110f8ab5a20c84081804d",
|
|
||||||
"expires_at": "2025-10-08T11:35:04.346635-07:00",
|
|
||||||
"size": 7919570944,
|
|
||||||
"size_vram": 7919570944,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_with_encoding_format_base64[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:32:11.451164-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama-guard3:1b",
|
|
||||||
"name": "llama-guard3:1b",
|
|
||||||
"digest": "494147e06bf99e10dbe67b63a07ac81c162f18ef3341aa3390007ac828571b3b",
|
|
||||||
"expires_at": "2025-10-08T11:30:00.392919-07:00",
|
|
||||||
"size": 2350966784,
|
|
||||||
"size_vram": 2350966784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "1.5B",
|
|
||||||
"quantization_level": "Q8_0"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_invalid_model_error[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:35:05.489695-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b-instruct-fp16",
|
|
||||||
"name": "llama3.2:3b-instruct-fp16",
|
|
||||||
"digest": "195a8c01d91ec3cb1e0aad4624a51f2602c51fa7d96110f8ab5a20c84081804d",
|
|
||||||
"expires_at": "2025-10-08T11:35:04.346635-07:00",
|
|
||||||
"size": 7919570944,
|
|
||||||
"size_vram": 7919570944,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_base64_batch_processing[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:35:06.037921-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b-instruct-fp16",
|
|
||||||
"name": "llama3.2:3b-instruct-fp16",
|
|
||||||
"digest": "195a8c01d91ec3cb1e0aad4624a51f2602c51fa7d96110f8ab5a20c84081804d",
|
|
||||||
"expires_at": "2025-10-08T11:35:04.346635-07:00",
|
|
||||||
"size": 7919570944,
|
|
||||||
"size_vram": 7919570944,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_empty_list_error[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:32:11.182572-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama-guard3:1b",
|
|
||||||
"name": "llama-guard3:1b",
|
|
||||||
"digest": "494147e06bf99e10dbe67b63a07ac81c162f18ef3341aa3390007ac828571b3b",
|
|
||||||
"expires_at": "2025-10-08T11:30:00.392919-07:00",
|
|
||||||
"size": 2350966784,
|
|
||||||
"size_vram": 2350966784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "1.5B",
|
|
||||||
"quantization_level": "Q8_0"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_single_string[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b-instruct-fp16",
|
|
||||||
"name": "llama3.2:3b-instruct-fp16",
|
|
||||||
"digest": "195a8c01d91ec3cb1e0aad4624a51f2602c51fa7d96110f8ab5a20c84081804d",
|
|
||||||
"expires_at": "2025-10-08T11:32:10.118228-07:00",
|
|
||||||
"size": 7919570944,
|
|
||||||
"size_vram": 7919570944,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama-guard3:1b",
|
|
||||||
"name": "llama-guard3:1b",
|
|
||||||
"digest": "494147e06bf99e10dbe67b63a07ac81c162f18ef3341aa3390007ac828571b3b",
|
|
||||||
"expires_at": "2025-10-08T11:30:00.392919-07:00",
|
|
||||||
"size": 2350966784,
|
|
||||||
"size_vram": 2350966784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "1.5B",
|
|
||||||
"quantization_level": "Q8_0"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
|
|
@ -1,421 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_different_inputs_different_outputs[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://0.0.0.0:11434/v1/v1/embeddings",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"input": "This is the first text",
|
|
||||||
"encoding_format": "float"
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/embeddings",
|
|
||||||
"model": "all-minilm:l6-v2"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.create_embedding_response.CreateEmbeddingResponse",
|
|
||||||
"__data__": {
|
|
||||||
"data": [
|
|
||||||
{
|
|
||||||
"embedding": [
|
|
||||||
-0.0010839553,
|
|
||||||
0.067364,
|
|
||||||
0.015185306,
|
|
||||||
0.037240896,
|
|
||||||
0.029337138,
|
|
||||||
0.015160007,
|
|
||||||
0.0743005,
|
|
||||||
-0.0032980628,
|
|
||||||
0.06581814,
|
|
||||||
-0.021851996,
|
|
||||||
0.034412965,
|
|
||||||
0.051005766,
|
|
||||||
-0.011422501,
|
|
||||||
-0.025062356,
|
|
||||||
-0.051756065,
|
|
||||||
0.027193472,
|
|
||||||
0.07849549,
|
|
||||||
-0.05999108,
|
|
||||||
0.010471458,
|
|
||||||
-0.003400683,
|
|
||||||
0.043449093,
|
|
||||||
0.122919865,
|
|
||||||
9.668583e-05,
|
|
||||||
0.002153268,
|
|
||||||
0.018064681,
|
|
||||||
0.045069378,
|
|
||||||
-0.09762388,
|
|
||||||
0.11186886,
|
|
||||||
0.049657565,
|
|
||||||
-0.03485217,
|
|
||||||
-0.039568134,
|
|
||||||
0.003532146,
|
|
||||||
0.15894793,
|
|
||||||
0.06341193,
|
|
||||||
0.047953114,
|
|
||||||
0.011617699,
|
|
||||||
0.009799243,
|
|
||||||
0.015377702,
|
|
||||||
0.009379663,
|
|
||||||
0.079989135,
|
|
||||||
0.019207356,
|
|
||||||
-0.13718612,
|
|
||||||
0.01730099,
|
|
||||||
0.013687199,
|
|
||||||
0.014266827,
|
|
||||||
-0.00022628276,
|
|
||||||
-0.017710257,
|
|
||||||
0.02291068,
|
|
||||||
0.03590651,
|
|
||||||
-0.015361055,
|
|
||||||
-0.00978436,
|
|
||||||
-0.0401825,
|
|
||||||
-0.011481894,
|
|
||||||
0.00014050963,
|
|
||||||
0.08540761,
|
|
||||||
0.08730027,
|
|
||||||
0.0046967245,
|
|
||||||
0.006164595,
|
|
||||||
0.003031956,
|
|
||||||
0.008891807,
|
|
||||||
-0.006260525,
|
|
||||||
0.05061661,
|
|
||||||
0.0005252785,
|
|
||||||
0.0467754,
|
|
||||||
0.09363822,
|
|
||||||
-0.012814104,
|
|
||||||
0.017708639,
|
|
||||||
-0.062698044,
|
|
||||||
-0.11535818,
|
|
||||||
0.041123625,
|
|
||||||
-0.014939021,
|
|
||||||
0.044815876,
|
|
||||||
-0.020868087,
|
|
||||||
0.042999975,
|
|
||||||
-0.061038766,
|
|
||||||
0.019998673,
|
|
||||||
-0.068740115,
|
|
||||||
-0.035516046,
|
|
||||||
0.041884515,
|
|
||||||
0.012185281,
|
|
||||||
-0.029084096,
|
|
||||||
-0.06643917,
|
|
||||||
0.030638866,
|
|
||||||
0.05149607,
|
|
||||||
-0.12815061,
|
|
||||||
0.06821646,
|
|
||||||
-0.047070153,
|
|
||||||
-0.032925386,
|
|
||||||
0.007499353,
|
|
||||||
-0.017841771,
|
|
||||||
0.038296465,
|
|
||||||
-0.015792726,
|
|
||||||
0.07054022,
|
|
||||||
0.038072467,
|
|
||||||
-0.11428876,
|
|
||||||
0.04210153,
|
|
||||||
-0.11162366,
|
|
||||||
-0.045723915,
|
|
||||||
-0.028951947,
|
|
||||||
0.12735675,
|
|
||||||
-0.013946637,
|
|
||||||
-0.027157523,
|
|
||||||
0.07295939,
|
|
||||||
0.024098422,
|
|
||||||
-0.054050542,
|
|
||||||
-0.13125896,
|
|
||||||
0.03013205,
|
|
||||||
-0.023223283,
|
|
||||||
-0.019072957,
|
|
||||||
-0.007864101,
|
|
||||||
-0.021954412,
|
|
||||||
-0.05329901,
|
|
||||||
-0.07088355,
|
|
||||||
-0.0115214065,
|
|
||||||
-0.023399564,
|
|
||||||
-0.015638318,
|
|
||||||
0.05148062,
|
|
||||||
0.029261008,
|
|
||||||
0.06481798,
|
|
||||||
0.064031154,
|
|
||||||
0.014445124,
|
|
||||||
-0.058017716,
|
|
||||||
-0.069921836,
|
|
||||||
-0.023950975,
|
|
||||||
-0.08490842,
|
|
||||||
-0.08779567,
|
|
||||||
0.048162255,
|
|
||||||
-6.1240354e-33,
|
|
||||||
0.010315817,
|
|
||||||
0.038685724,
|
|
||||||
0.0031864564,
|
|
||||||
0.0357421,
|
|
||||||
0.0050265454,
|
|
||||||
-0.004210234,
|
|
||||||
-0.053900674,
|
|
||||||
-0.02988569,
|
|
||||||
-0.07548199,
|
|
||||||
-0.078777455,
|
|
||||||
-0.012271205,
|
|
||||||
-0.05056629,
|
|
||||||
0.020729113,
|
|
||||||
-0.051866043,
|
|
||||||
-0.059254467,
|
|
||||||
-0.059903424,
|
|
||||||
-0.055699438,
|
|
||||||
0.032196835,
|
|
||||||
-0.006328442,
|
|
||||||
-0.021668624,
|
|
||||||
-0.059921067,
|
|
||||||
0.0519611,
|
|
||||||
0.051227964,
|
|
||||||
-0.063502096,
|
|
||||||
-0.04873505,
|
|
||||||
-0.014265467,
|
|
||||||
0.0025537873,
|
|
||||||
-0.024346355,
|
|
||||||
-0.0055181426,
|
|
||||||
0.02007461,
|
|
||||||
-0.10196586,
|
|
||||||
0.010727814,
|
|
||||||
-0.023194604,
|
|
||||||
-0.081025146,
|
|
||||||
-0.014997581,
|
|
||||||
0.0017926424,
|
|
||||||
0.045078833,
|
|
||||||
-0.052792255,
|
|
||||||
-0.05368693,
|
|
||||||
-0.013245513,
|
|
||||||
-0.019808132,
|
|
||||||
0.020031843,
|
|
||||||
-0.00081401254,
|
|
||||||
-0.10117647,
|
|
||||||
-0.0007066768,
|
|
||||||
0.09663035,
|
|
||||||
-0.03946875,
|
|
||||||
0.04954661,
|
|
||||||
0.042237334,
|
|
||||||
0.007943922,
|
|
||||||
-0.05234212,
|
|
||||||
0.051887065,
|
|
||||||
0.03711589,
|
|
||||||
0.034850314,
|
|
||||||
0.063441575,
|
|
||||||
-0.026583876,
|
|
||||||
-0.009227281,
|
|
||||||
-0.0025737104,
|
|
||||||
-0.056082893,
|
|
||||||
0.0020716325,
|
|
||||||
-0.020129146,
|
|
||||||
0.0012315192,
|
|
||||||
-0.0017609745,
|
|
||||||
0.019111704,
|
|
||||||
0.016572498,
|
|
||||||
-0.011374,
|
|
||||||
0.010381644,
|
|
||||||
-0.007864189,
|
|
||||||
0.04664868,
|
|
||||||
-0.046856377,
|
|
||||||
-0.08523834,
|
|
||||||
-0.008974813,
|
|
||||||
0.012022968,
|
|
||||||
0.013285977,
|
|
||||||
0.015182303,
|
|
||||||
0.03708482,
|
|
||||||
0.026587088,
|
|
||||||
0.014473839,
|
|
||||||
-0.013946565,
|
|
||||||
0.01999883,
|
|
||||||
-0.06888259,
|
|
||||||
-0.07111367,
|
|
||||||
0.012369427,
|
|
||||||
0.032828625,
|
|
||||||
-0.03152666,
|
|
||||||
0.045777358,
|
|
||||||
0.06801705,
|
|
||||||
-0.07747748,
|
|
||||||
0.018461134,
|
|
||||||
0.06620267,
|
|
||||||
-0.086365156,
|
|
||||||
0.008950603,
|
|
||||||
0.041320425,
|
|
||||||
0.009541193,
|
|
||||||
0.0066037327,
|
|
||||||
4.71081e-33,
|
|
||||||
-0.026172558,
|
|
||||||
0.0013145636,
|
|
||||||
-0.014140948,
|
|
||||||
-0.024360213,
|
|
||||||
0.06931815,
|
|
||||||
0.031448748,
|
|
||||||
0.037257418,
|
|
||||||
0.06468137,
|
|
||||||
0.049403396,
|
|
||||||
0.11072201,
|
|
||||||
0.04985356,
|
|
||||||
0.06679111,
|
|
||||||
0.04153249,
|
|
||||||
-0.034106053,
|
|
||||||
0.070283465,
|
|
||||||
0.034855895,
|
|
||||||
0.12902643,
|
|
||||||
-0.021033453,
|
|
||||||
0.008940618,
|
|
||||||
0.030177405,
|
|
||||||
-0.022881329,
|
|
||||||
0.036504544,
|
|
||||||
-0.13194299,
|
|
||||||
0.045612644,
|
|
||||||
-0.0127895875,
|
|
||||||
0.04174139,
|
|
||||||
0.1232064,
|
|
||||||
-0.013484046,
|
|
||||||
-0.007285246,
|
|
||||||
-0.029776007,
|
|
||||||
0.025007037,
|
|
||||||
-0.009516822,
|
|
||||||
0.02475585,
|
|
||||||
0.023208592,
|
|
||||||
-0.019141924,
|
|
||||||
0.02259424,
|
|
||||||
0.013740329,
|
|
||||||
-0.038490705,
|
|
||||||
-0.014461541,
|
|
||||||
0.075218394,
|
|
||||||
0.13589163,
|
|
||||||
0.009839605,
|
|
||||||
-0.037563317,
|
|
||||||
-0.02737327,
|
|
||||||
-0.016485116,
|
|
||||||
-0.048845276,
|
|
||||||
-0.03523722,
|
|
||||||
-0.05439929,
|
|
||||||
-0.0017957076,
|
|
||||||
0.03563579,
|
|
||||||
-0.010255764,
|
|
||||||
-0.01859244,
|
|
||||||
-0.03647324,
|
|
||||||
-0.055985246,
|
|
||||||
-0.007833892,
|
|
||||||
0.009086756,
|
|
||||||
-0.007333394,
|
|
||||||
0.050386623,
|
|
||||||
-0.0002305643,
|
|
||||||
-0.03637248,
|
|
||||||
-0.024937423,
|
|
||||||
0.058877032,
|
|
||||||
-0.07250415,
|
|
||||||
0.07401245,
|
|
||||||
0.053917013,
|
|
||||||
-0.051895224,
|
|
||||||
-0.006332244,
|
|
||||||
0.07850189,
|
|
||||||
-0.01695057,
|
|
||||||
-0.006673017,
|
|
||||||
0.012659739,
|
|
||||||
-0.014127065,
|
|
||||||
-0.13639799,
|
|
||||||
-0.08524976,
|
|
||||||
-0.017533274,
|
|
||||||
-0.0046930755,
|
|
||||||
0.013687301,
|
|
||||||
0.0009185522,
|
|
||||||
-0.0719948,
|
|
||||||
-0.06887779,
|
|
||||||
0.14208324,
|
|
||||||
0.03187123,
|
|
||||||
-0.055919908,
|
|
||||||
0.030401653,
|
|
||||||
0.061900012,
|
|
||||||
0.029921472,
|
|
||||||
-0.00096237566,
|
|
||||||
-0.065010294,
|
|
||||||
-0.020657646,
|
|
||||||
0.039562404,
|
|
||||||
-0.123846576,
|
|
||||||
0.0028867351,
|
|
||||||
0.051196404,
|
|
||||||
0.13397509,
|
|
||||||
-0.088453874,
|
|
||||||
-1.7590333e-08,
|
|
||||||
-0.025786474,
|
|
||||||
-0.080303885,
|
|
||||||
-0.09164947,
|
|
||||||
0.031999,
|
|
||||||
0.00584884,
|
|
||||||
0.11464121,
|
|
||||||
0.023377793,
|
|
||||||
-0.06902527,
|
|
||||||
-0.055941124,
|
|
||||||
-0.05787791,
|
|
||||||
0.014640494,
|
|
||||||
0.080320895,
|
|
||||||
0.0037027278,
|
|
||||||
-0.030824674,
|
|
||||||
0.024432683,
|
|
||||||
0.008549355,
|
|
||||||
-0.05291309,
|
|
||||||
-0.06636625,
|
|
||||||
0.0007468212,
|
|
||||||
-0.02379191,
|
|
||||||
0.030766092,
|
|
||||||
0.054053318,
|
|
||||||
-0.0027251292,
|
|
||||||
-0.09928475,
|
|
||||||
-0.0150488615,
|
|
||||||
0.016240431,
|
|
||||||
-0.0015727071,
|
|
||||||
0.01190173,
|
|
||||||
0.007895162,
|
|
||||||
0.04894733,
|
|
||||||
0.00487708,
|
|
||||||
0.08263861,
|
|
||||||
-0.014527478,
|
|
||||||
-0.043879665,
|
|
||||||
0.004633697,
|
|
||||||
0.024611989,
|
|
||||||
0.023827499,
|
|
||||||
0.02366802,
|
|
||||||
0.050754935,
|
|
||||||
-0.051841788,
|
|
||||||
0.0212632,
|
|
||||||
-0.0034418616,
|
|
||||||
-0.021175656,
|
|
||||||
0.020591663,
|
|
||||||
-0.06475325,
|
|
||||||
0.0542002,
|
|
||||||
0.027792262,
|
|
||||||
-0.05295982,
|
|
||||||
0.01509645,
|
|
||||||
-0.11977527,
|
|
||||||
-0.03416359,
|
|
||||||
-0.012206606,
|
|
||||||
0.047451705,
|
|
||||||
0.020876253,
|
|
||||||
-0.026368074,
|
|
||||||
0.01502373,
|
|
||||||
0.033982284,
|
|
||||||
0.059788153,
|
|
||||||
-0.052526973,
|
|
||||||
0.03356499,
|
|
||||||
0.061180886,
|
|
||||||
0.096336305,
|
|
||||||
0.116353564,
|
|
||||||
-0.016122948
|
|
||||||
],
|
|
||||||
"index": 0,
|
|
||||||
"object": "embedding"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"object": "list",
|
|
||||||
"usage": {
|
|
||||||
"prompt_tokens": 5,
|
|
||||||
"total_tokens": 5
|
|
||||||
}
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,57 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_single_string[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b-instruct-fp16",
|
|
||||||
"name": "llama3.2:3b-instruct-fp16",
|
|
||||||
"digest": "195a8c01d91ec3cb1e0aad4624a51f2602c51fa7d96110f8ab5a20c84081804d",
|
|
||||||
"expires_at": "2025-10-08T11:35:04.346635-07:00",
|
|
||||||
"size": 7919570944,
|
|
||||||
"size_vram": 7919570944,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_with_user_parameter[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:35:05.395473-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b-instruct-fp16",
|
|
||||||
"name": "llama3.2:3b-instruct-fp16",
|
|
||||||
"digest": "195a8c01d91ec3cb1e0aad4624a51f2602c51fa7d96110f8ab5a20c84081804d",
|
|
||||||
"expires_at": "2025-10-08T11:35:04.346635-07:00",
|
|
||||||
"size": 7919570944,
|
|
||||||
"size_vram": 7919570944,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
|
|
@ -1,421 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_single_string[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://0.0.0.0:11434/v1/v1/embeddings",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"input": "Hello, world!",
|
|
||||||
"encoding_format": "float"
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/embeddings",
|
|
||||||
"model": "all-minilm:l6-v2"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.create_embedding_response.CreateEmbeddingResponse",
|
|
||||||
"__data__": {
|
|
||||||
"data": [
|
|
||||||
{
|
|
||||||
"embedding": [
|
|
||||||
-0.038168654,
|
|
||||||
0.032873917,
|
|
||||||
-0.0055947267,
|
|
||||||
0.014366432,
|
|
||||||
-0.040310103,
|
|
||||||
-0.116643615,
|
|
||||||
0.031721067,
|
|
||||||
0.0019260457,
|
|
||||||
-0.04255802,
|
|
||||||
0.029198613,
|
|
||||||
0.04252229,
|
|
||||||
0.032184314,
|
|
||||||
0.029838374,
|
|
||||||
0.010959321,
|
|
||||||
-0.053805783,
|
|
||||||
-0.05028783,
|
|
||||||
-0.023449864,
|
|
||||||
0.0107550435,
|
|
||||||
-0.13774979,
|
|
||||||
0.0039929547,
|
|
||||||
0.029302042,
|
|
||||||
0.066712305,
|
|
||||||
-0.015410682,
|
|
||||||
0.048422653,
|
|
||||||
-0.08814465,
|
|
||||||
-0.012715775,
|
|
||||||
0.041334823,
|
|
||||||
0.040851083,
|
|
||||||
-0.050064698,
|
|
||||||
-0.05804616,
|
|
||||||
0.048728727,
|
|
||||||
0.06888658,
|
|
||||||
0.058795262,
|
|
||||||
0.008804153,
|
|
||||||
-0.016073612,
|
|
||||||
0.08514259,
|
|
||||||
-0.078146815,
|
|
||||||
-0.07741974,
|
|
||||||
0.020842256,
|
|
||||||
0.016201088,
|
|
||||||
0.032518543,
|
|
||||||
-0.05346469,
|
|
||||||
-0.062197812,
|
|
||||||
-0.024271712,
|
|
||||||
0.007416788,
|
|
||||||
0.024103774,
|
|
||||||
0.006469804,
|
|
||||||
0.051166162,
|
|
||||||
0.07284196,
|
|
||||||
0.034627657,
|
|
||||||
-0.05475476,
|
|
||||||
-0.059386417,
|
|
||||||
-0.0071934434,
|
|
||||||
0.020163197,
|
|
||||||
0.035816014,
|
|
||||||
0.0055927313,
|
|
||||||
0.010762318,
|
|
||||||
-0.05274177,
|
|
||||||
0.010083032,
|
|
||||||
-0.008742163,
|
|
||||||
-0.06284565,
|
|
||||||
0.038426206,
|
|
||||||
-0.013933317,
|
|
||||||
0.07342759,
|
|
||||||
0.09004579,
|
|
||||||
-0.07995627,
|
|
||||||
-0.016420787,
|
|
||||||
0.044767782,
|
|
||||||
-0.06886435,
|
|
||||||
-0.03303916,
|
|
||||||
-0.015482072,
|
|
||||||
0.011322529,
|
|
||||||
0.036461752,
|
|
||||||
0.066346884,
|
|
||||||
-0.05434455,
|
|
||||||
0.008740993,
|
|
||||||
0.012066104,
|
|
||||||
-0.038101126,
|
|
||||||
0.0069316486,
|
|
||||||
0.051146947,
|
|
||||||
0.07740579,
|
|
||||||
-0.122950904,
|
|
||||||
0.016380342,
|
|
||||||
0.049568996,
|
|
||||||
0.031634904,
|
|
||||||
-0.039637603,
|
|
||||||
0.0016715266,
|
|
||||||
0.009577405,
|
|
||||||
-0.032646418,
|
|
||||||
-0.033988595,
|
|
||||||
-0.13329837,
|
|
||||||
0.0072566303,
|
|
||||||
-0.010266605,
|
|
||||||
0.038557075,
|
|
||||||
-0.09338859,
|
|
||||||
-0.041706774,
|
|
||||||
0.069941126,
|
|
||||||
-0.026323376,
|
|
||||||
-0.14971305,
|
|
||||||
0.13445398,
|
|
||||||
0.03748492,
|
|
||||||
0.052825302,
|
|
||||||
0.0450506,
|
|
||||||
0.018712776,
|
|
||||||
0.05444322,
|
|
||||||
0.017282845,
|
|
||||||
-0.032480195,
|
|
||||||
0.04614526,
|
|
||||||
-0.046711974,
|
|
||||||
-0.030566413,
|
|
||||||
-0.01820007,
|
|
||||||
-0.04869831,
|
|
||||||
0.033051647,
|
|
||||||
-0.0038142777,
|
|
||||||
0.04999665,
|
|
||||||
-0.058270358,
|
|
||||||
-0.010011706,
|
|
||||||
0.010643473,
|
|
||||||
-0.040113144,
|
|
||||||
-0.0015507729,
|
|
||||||
0.060854245,
|
|
||||||
-0.045562096,
|
|
||||||
0.049257778,
|
|
||||||
0.02612153,
|
|
||||||
0.01981428,
|
|
||||||
-0.001660993,
|
|
||||||
0.059509434,
|
|
||||||
-6.525298e-33,
|
|
||||||
0.063519135,
|
|
||||||
0.0030875143,
|
|
||||||
0.028961418,
|
|
||||||
0.1733713,
|
|
||||||
0.0029763067,
|
|
||||||
0.027727291,
|
|
||||||
-0.0951315,
|
|
||||||
-0.031186627,
|
|
||||||
0.026689058,
|
|
||||||
-0.010807322,
|
|
||||||
0.023850724,
|
|
||||||
0.023777472,
|
|
||||||
-0.031174092,
|
|
||||||
0.049501278,
|
|
||||||
-0.025049716,
|
|
||||||
0.10175924,
|
|
||||||
-0.07919064,
|
|
||||||
-0.0032249284,
|
|
||||||
0.042915843,
|
|
||||||
0.09483459,
|
|
||||||
-0.06652636,
|
|
||||||
0.006303593,
|
|
||||||
0.02220902,
|
|
||||||
0.06999181,
|
|
||||||
-0.0074810013,
|
|
||||||
-0.0017734945,
|
|
||||||
0.027008688,
|
|
||||||
-0.07534615,
|
|
||||||
0.114036545,
|
|
||||||
0.008552313,
|
|
||||||
-0.023737878,
|
|
||||||
-0.04694563,
|
|
||||||
0.014472103,
|
|
||||||
0.019855395,
|
|
||||||
-0.0046694353,
|
|
||||||
0.0013555645,
|
|
||||||
-0.034298304,
|
|
||||||
-0.054142635,
|
|
||||||
-0.09419824,
|
|
||||||
-0.028909719,
|
|
||||||
-0.018876282,
|
|
||||||
0.0457315,
|
|
||||||
0.04761082,
|
|
||||||
-0.0030971593,
|
|
||||||
-0.033264168,
|
|
||||||
-0.013539523,
|
|
||||||
0.051041685,
|
|
||||||
0.031110944,
|
|
||||||
0.015244497,
|
|
||||||
0.054158635,
|
|
||||||
-0.08499706,
|
|
||||||
0.013360703,
|
|
||||||
-0.04759633,
|
|
||||||
0.07101136,
|
|
||||||
-0.0131114535,
|
|
||||||
-0.0023818254,
|
|
||||||
0.050331973,
|
|
||||||
-0.041642286,
|
|
||||||
-0.01419894,
|
|
||||||
0.032463223,
|
|
||||||
0.0053973934,
|
|
||||||
0.091275506,
|
|
||||||
0.0044798073,
|
|
||||||
-0.018260129,
|
|
||||||
-0.015278888,
|
|
||||||
-0.046306957,
|
|
||||||
0.038750377,
|
|
||||||
0.014729783,
|
|
||||||
0.05204642,
|
|
||||||
0.0017938613,
|
|
||||||
-0.014963651,
|
|
||||||
0.027101943,
|
|
||||||
0.031203475,
|
|
||||||
0.023725478,
|
|
||||||
-0.004601222,
|
|
||||||
0.03617344,
|
|
||||||
0.06679477,
|
|
||||||
-0.0018401983,
|
|
||||||
0.021265576,
|
|
||||||
-0.057589985,
|
|
||||||
0.019155758,
|
|
||||||
0.031437635,
|
|
||||||
-0.018444614,
|
|
||||||
-0.04085069,
|
|
||||||
0.10393101,
|
|
||||||
0.011960795,
|
|
||||||
-0.014898805,
|
|
||||||
-0.10520497,
|
|
||||||
-0.012302656,
|
|
||||||
-0.00043837292,
|
|
||||||
-0.09508398,
|
|
||||||
0.058318105,
|
|
||||||
0.042576887,
|
|
||||||
-0.025066672,
|
|
||||||
-0.094555676,
|
|
||||||
4.0072287e-33,
|
|
||||||
0.1322281,
|
|
||||||
0.0053512393,
|
|
||||||
-0.03312536,
|
|
||||||
-0.09096454,
|
|
||||||
-0.031562407,
|
|
||||||
-0.033949774,
|
|
||||||
-0.07205118,
|
|
||||||
0.1259232,
|
|
||||||
-0.08333555,
|
|
||||||
0.052797858,
|
|
||||||
0.001077506,
|
|
||||||
0.022004265,
|
|
||||||
0.10402767,
|
|
||||||
0.013034249,
|
|
||||||
0.04091762,
|
|
||||||
0.018705815,
|
|
||||||
0.11424037,
|
|
||||||
0.024799824,
|
|
||||||
0.014582492,
|
|
||||||
0.006205516,
|
|
||||||
-0.011202356,
|
|
||||||
-0.035756435,
|
|
||||||
-0.03800272,
|
|
||||||
0.011251353,
|
|
||||||
-0.0512988,
|
|
||||||
0.007890417,
|
|
||||||
0.06736164,
|
|
||||||
0.0033359542,
|
|
||||||
-0.09285096,
|
|
||||||
0.03704081,
|
|
||||||
-0.022326592,
|
|
||||||
0.039967872,
|
|
||||||
-0.030748183,
|
|
||||||
-0.011446819,
|
|
||||||
-0.014453254,
|
|
||||||
0.02498229,
|
|
||||||
-0.097532175,
|
|
||||||
-0.035378877,
|
|
||||||
-0.03757795,
|
|
||||||
-0.010181498,
|
|
||||||
-0.06392041,
|
|
||||||
0.025538994,
|
|
||||||
0.02061816,
|
|
||||||
0.03757256,
|
|
||||||
-0.1043548,
|
|
||||||
-0.028326731,
|
|
||||||
-0.05209465,
|
|
||||||
0.0128473425,
|
|
||||||
-0.051238894,
|
|
||||||
-0.029034877,
|
|
||||||
-0.09633617,
|
|
||||||
-0.042309195,
|
|
||||||
0.067165054,
|
|
||||||
-0.030870603,
|
|
||||||
-0.010357507,
|
|
||||||
0.027381465,
|
|
||||||
-0.028105576,
|
|
||||||
0.010302046,
|
|
||||||
0.04306986,
|
|
||||||
0.022315372,
|
|
||||||
0.007954779,
|
|
||||||
0.056068663,
|
|
||||||
0.04071972,
|
|
||||||
0.09293905,
|
|
||||||
0.016536433,
|
|
||||||
-0.053764775,
|
|
||||||
0.00047211433,
|
|
||||||
0.050708972,
|
|
||||||
0.042510226,
|
|
||||||
-0.029195962,
|
|
||||||
0.009274875,
|
|
||||||
-0.010647389,
|
|
||||||
-0.037209682,
|
|
||||||
0.002267011,
|
|
||||||
-0.030304702,
|
|
||||||
0.0745741,
|
|
||||||
0.0026207205,
|
|
||||||
-0.017582772,
|
|
||||||
0.0028797672,
|
|
||||||
0.038404796,
|
|
||||||
0.00723137,
|
|
||||||
0.045613218,
|
|
||||||
0.03998252,
|
|
||||||
0.014209623,
|
|
||||||
-0.0142997475,
|
|
||||||
0.05850862,
|
|
||||||
0.03630791,
|
|
||||||
0.055294298,
|
|
||||||
-0.020075988,
|
|
||||||
-0.08041808,
|
|
||||||
-0.030250112,
|
|
||||||
-0.014920701,
|
|
||||||
0.022349516,
|
|
||||||
0.011911506,
|
|
||||||
-0.06903851,
|
|
||||||
-1.8806734e-08,
|
|
||||||
-0.078480355,
|
|
||||||
0.046674173,
|
|
||||||
-0.023920896,
|
|
||||||
0.0634942,
|
|
||||||
0.02396477,
|
|
||||||
0.0014517035,
|
|
||||||
-0.090798445,
|
|
||||||
-0.06684978,
|
|
||||||
-0.0801405,
|
|
||||||
0.005503192,
|
|
||||||
0.053675175,
|
|
||||||
0.104841895,
|
|
||||||
-0.066848256,
|
|
||||||
0.015522683,
|
|
||||||
0.067097165,
|
|
||||||
0.070832625,
|
|
||||||
-0.03197915,
|
|
||||||
0.020843629,
|
|
||||||
-0.0219202,
|
|
||||||
-0.0073016756,
|
|
||||||
-0.010645817,
|
|
||||||
0.0040983153,
|
|
||||||
0.03313765,
|
|
||||||
-0.0790081,
|
|
||||||
0.03878132,
|
|
||||||
-0.075230986,
|
|
||||||
-0.015732396,
|
|
||||||
0.0060099233,
|
|
||||||
0.0051297406,
|
|
||||||
-0.061492138,
|
|
||||||
0.04202211,
|
|
||||||
0.09544608,
|
|
||||||
-0.04318599,
|
|
||||||
0.014424486,
|
|
||||||
-0.10617826,
|
|
||||||
-0.027963417,
|
|
||||||
0.011034413,
|
|
||||||
0.069576606,
|
|
||||||
0.06689785,
|
|
||||||
-0.07479674,
|
|
||||||
-0.07851099,
|
|
||||||
0.042766396,
|
|
||||||
-0.034639932,
|
|
||||||
-0.10607304,
|
|
||||||
-0.03577663,
|
|
||||||
0.051540814,
|
|
||||||
0.068673156,
|
|
||||||
-0.049959548,
|
|
||||||
0.015460458,
|
|
||||||
-0.064520314,
|
|
||||||
-0.076010585,
|
|
||||||
0.026035817,
|
|
||||||
0.07440218,
|
|
||||||
-0.012396022,
|
|
||||||
0.13329679,
|
|
||||||
0.074770845,
|
|
||||||
0.05134284,
|
|
||||||
0.020977058,
|
|
||||||
-0.026776016,
|
|
||||||
0.08894323,
|
|
||||||
0.039937407,
|
|
||||||
-0.04102053,
|
|
||||||
0.03194075,
|
|
||||||
0.018113315
|
|
||||||
],
|
|
||||||
"index": 0,
|
|
||||||
"object": "embedding"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"object": "list",
|
|
||||||
"usage": {
|
|
||||||
"prompt_tokens": 4,
|
|
||||||
"total_tokens": 4
|
|
||||||
}
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,48 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_completion.py::test_openai_completion_guided_choice[txt=vllm/Qwen/Qwen3-0.6B]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:8000/v1/v1/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "Qwen/Qwen3-0.6B",
|
|
||||||
"prompt": "I am feeling really sad today.",
|
|
||||||
"stream": false
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/completions",
|
|
||||||
"model": "Qwen/Qwen3-0.6B"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.completion.Completion",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-d2ba309413e8",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"finish_reason": "length",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null,
|
|
||||||
"text": " I have been working on a project that I feel like I'm not doing well",
|
|
||||||
"stop_reason": null,
|
|
||||||
"prompt_logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "Qwen/Qwen3-0.6B",
|
|
||||||
"object": "text_completion",
|
|
||||||
"system_fingerprint": null,
|
|
||||||
"usage": {
|
|
||||||
"completion_tokens": 16,
|
|
||||||
"prompt_tokens": 7,
|
|
||||||
"total_tokens": 23,
|
|
||||||
"completion_tokens_details": null,
|
|
||||||
"prompt_tokens_details": null
|
|
||||||
},
|
|
||||||
"service_tier": null,
|
|
||||||
"kv_transfer_params": null
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,421 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_single_string[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://0.0.0.0:11434/v1/v1/embeddings",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"input": "Hello, world!",
|
|
||||||
"encoding_format": "float"
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/embeddings",
|
|
||||||
"model": "all-minilm:l6-v2"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.create_embedding_response.CreateEmbeddingResponse",
|
|
||||||
"__data__": {
|
|
||||||
"data": [
|
|
||||||
{
|
|
||||||
"embedding": [
|
|
||||||
-0.038168654,
|
|
||||||
0.032873917,
|
|
||||||
-0.0055947267,
|
|
||||||
0.014366432,
|
|
||||||
-0.040310103,
|
|
||||||
-0.116643615,
|
|
||||||
0.031721067,
|
|
||||||
0.0019260457,
|
|
||||||
-0.04255802,
|
|
||||||
0.029198613,
|
|
||||||
0.04252229,
|
|
||||||
0.032184314,
|
|
||||||
0.029838374,
|
|
||||||
0.010959321,
|
|
||||||
-0.053805783,
|
|
||||||
-0.05028783,
|
|
||||||
-0.023449864,
|
|
||||||
0.0107550435,
|
|
||||||
-0.13774979,
|
|
||||||
0.0039929547,
|
|
||||||
0.029302042,
|
|
||||||
0.066712305,
|
|
||||||
-0.015410682,
|
|
||||||
0.048422653,
|
|
||||||
-0.08814465,
|
|
||||||
-0.012715775,
|
|
||||||
0.041334823,
|
|
||||||
0.040851083,
|
|
||||||
-0.050064698,
|
|
||||||
-0.05804616,
|
|
||||||
0.048728727,
|
|
||||||
0.06888658,
|
|
||||||
0.058795262,
|
|
||||||
0.008804153,
|
|
||||||
-0.016073612,
|
|
||||||
0.08514259,
|
|
||||||
-0.078146815,
|
|
||||||
-0.07741974,
|
|
||||||
0.020842256,
|
|
||||||
0.016201088,
|
|
||||||
0.032518543,
|
|
||||||
-0.05346469,
|
|
||||||
-0.062197812,
|
|
||||||
-0.024271712,
|
|
||||||
0.007416788,
|
|
||||||
0.024103774,
|
|
||||||
0.006469804,
|
|
||||||
0.051166162,
|
|
||||||
0.07284196,
|
|
||||||
0.034627657,
|
|
||||||
-0.05475476,
|
|
||||||
-0.059386417,
|
|
||||||
-0.0071934434,
|
|
||||||
0.020163197,
|
|
||||||
0.035816014,
|
|
||||||
0.0055927313,
|
|
||||||
0.010762318,
|
|
||||||
-0.05274177,
|
|
||||||
0.010083032,
|
|
||||||
-0.008742163,
|
|
||||||
-0.06284565,
|
|
||||||
0.038426206,
|
|
||||||
-0.013933317,
|
|
||||||
0.07342759,
|
|
||||||
0.09004579,
|
|
||||||
-0.07995627,
|
|
||||||
-0.016420787,
|
|
||||||
0.044767782,
|
|
||||||
-0.06886435,
|
|
||||||
-0.03303916,
|
|
||||||
-0.015482072,
|
|
||||||
0.011322529,
|
|
||||||
0.036461752,
|
|
||||||
0.066346884,
|
|
||||||
-0.05434455,
|
|
||||||
0.008740993,
|
|
||||||
0.012066104,
|
|
||||||
-0.038101126,
|
|
||||||
0.0069316486,
|
|
||||||
0.051146947,
|
|
||||||
0.07740579,
|
|
||||||
-0.122950904,
|
|
||||||
0.016380342,
|
|
||||||
0.049568996,
|
|
||||||
0.031634904,
|
|
||||||
-0.039637603,
|
|
||||||
0.0016715266,
|
|
||||||
0.009577405,
|
|
||||||
-0.032646418,
|
|
||||||
-0.033988595,
|
|
||||||
-0.13329837,
|
|
||||||
0.0072566303,
|
|
||||||
-0.010266605,
|
|
||||||
0.038557075,
|
|
||||||
-0.09338859,
|
|
||||||
-0.041706774,
|
|
||||||
0.069941126,
|
|
||||||
-0.026323376,
|
|
||||||
-0.14971305,
|
|
||||||
0.13445398,
|
|
||||||
0.03748492,
|
|
||||||
0.052825302,
|
|
||||||
0.0450506,
|
|
||||||
0.018712776,
|
|
||||||
0.05444322,
|
|
||||||
0.017282845,
|
|
||||||
-0.032480195,
|
|
||||||
0.04614526,
|
|
||||||
-0.046711974,
|
|
||||||
-0.030566413,
|
|
||||||
-0.01820007,
|
|
||||||
-0.04869831,
|
|
||||||
0.033051647,
|
|
||||||
-0.0038142777,
|
|
||||||
0.04999665,
|
|
||||||
-0.058270358,
|
|
||||||
-0.010011706,
|
|
||||||
0.010643473,
|
|
||||||
-0.040113144,
|
|
||||||
-0.0015507729,
|
|
||||||
0.060854245,
|
|
||||||
-0.045562096,
|
|
||||||
0.049257778,
|
|
||||||
0.02612153,
|
|
||||||
0.01981428,
|
|
||||||
-0.001660993,
|
|
||||||
0.059509434,
|
|
||||||
-6.525298e-33,
|
|
||||||
0.063519135,
|
|
||||||
0.0030875143,
|
|
||||||
0.028961418,
|
|
||||||
0.1733713,
|
|
||||||
0.0029763067,
|
|
||||||
0.027727291,
|
|
||||||
-0.0951315,
|
|
||||||
-0.031186627,
|
|
||||||
0.026689058,
|
|
||||||
-0.010807322,
|
|
||||||
0.023850724,
|
|
||||||
0.023777472,
|
|
||||||
-0.031174092,
|
|
||||||
0.049501278,
|
|
||||||
-0.025049716,
|
|
||||||
0.10175924,
|
|
||||||
-0.07919064,
|
|
||||||
-0.0032249284,
|
|
||||||
0.042915843,
|
|
||||||
0.09483459,
|
|
||||||
-0.06652636,
|
|
||||||
0.006303593,
|
|
||||||
0.02220902,
|
|
||||||
0.06999181,
|
|
||||||
-0.0074810013,
|
|
||||||
-0.0017734945,
|
|
||||||
0.027008688,
|
|
||||||
-0.07534615,
|
|
||||||
0.114036545,
|
|
||||||
0.008552313,
|
|
||||||
-0.023737878,
|
|
||||||
-0.04694563,
|
|
||||||
0.014472103,
|
|
||||||
0.019855395,
|
|
||||||
-0.0046694353,
|
|
||||||
0.0013555645,
|
|
||||||
-0.034298304,
|
|
||||||
-0.054142635,
|
|
||||||
-0.09419824,
|
|
||||||
-0.028909719,
|
|
||||||
-0.018876282,
|
|
||||||
0.0457315,
|
|
||||||
0.04761082,
|
|
||||||
-0.0030971593,
|
|
||||||
-0.033264168,
|
|
||||||
-0.013539523,
|
|
||||||
0.051041685,
|
|
||||||
0.031110944,
|
|
||||||
0.015244497,
|
|
||||||
0.054158635,
|
|
||||||
-0.08499706,
|
|
||||||
0.013360703,
|
|
||||||
-0.04759633,
|
|
||||||
0.07101136,
|
|
||||||
-0.0131114535,
|
|
||||||
-0.0023818254,
|
|
||||||
0.050331973,
|
|
||||||
-0.041642286,
|
|
||||||
-0.01419894,
|
|
||||||
0.032463223,
|
|
||||||
0.0053973934,
|
|
||||||
0.091275506,
|
|
||||||
0.0044798073,
|
|
||||||
-0.018260129,
|
|
||||||
-0.015278888,
|
|
||||||
-0.046306957,
|
|
||||||
0.038750377,
|
|
||||||
0.014729783,
|
|
||||||
0.05204642,
|
|
||||||
0.0017938613,
|
|
||||||
-0.014963651,
|
|
||||||
0.027101943,
|
|
||||||
0.031203475,
|
|
||||||
0.023725478,
|
|
||||||
-0.004601222,
|
|
||||||
0.03617344,
|
|
||||||
0.06679477,
|
|
||||||
-0.0018401983,
|
|
||||||
0.021265576,
|
|
||||||
-0.057589985,
|
|
||||||
0.019155758,
|
|
||||||
0.031437635,
|
|
||||||
-0.018444614,
|
|
||||||
-0.04085069,
|
|
||||||
0.10393101,
|
|
||||||
0.011960795,
|
|
||||||
-0.014898805,
|
|
||||||
-0.10520497,
|
|
||||||
-0.012302656,
|
|
||||||
-0.00043837292,
|
|
||||||
-0.09508398,
|
|
||||||
0.058318105,
|
|
||||||
0.042576887,
|
|
||||||
-0.025066672,
|
|
||||||
-0.094555676,
|
|
||||||
4.0072287e-33,
|
|
||||||
0.1322281,
|
|
||||||
0.0053512393,
|
|
||||||
-0.03312536,
|
|
||||||
-0.09096454,
|
|
||||||
-0.031562407,
|
|
||||||
-0.033949774,
|
|
||||||
-0.07205118,
|
|
||||||
0.1259232,
|
|
||||||
-0.08333555,
|
|
||||||
0.052797858,
|
|
||||||
0.001077506,
|
|
||||||
0.022004265,
|
|
||||||
0.10402767,
|
|
||||||
0.013034249,
|
|
||||||
0.04091762,
|
|
||||||
0.018705815,
|
|
||||||
0.11424037,
|
|
||||||
0.024799824,
|
|
||||||
0.014582492,
|
|
||||||
0.006205516,
|
|
||||||
-0.011202356,
|
|
||||||
-0.035756435,
|
|
||||||
-0.03800272,
|
|
||||||
0.011251353,
|
|
||||||
-0.0512988,
|
|
||||||
0.007890417,
|
|
||||||
0.06736164,
|
|
||||||
0.0033359542,
|
|
||||||
-0.09285096,
|
|
||||||
0.03704081,
|
|
||||||
-0.022326592,
|
|
||||||
0.039967872,
|
|
||||||
-0.030748183,
|
|
||||||
-0.011446819,
|
|
||||||
-0.014453254,
|
|
||||||
0.02498229,
|
|
||||||
-0.097532175,
|
|
||||||
-0.035378877,
|
|
||||||
-0.03757795,
|
|
||||||
-0.010181498,
|
|
||||||
-0.06392041,
|
|
||||||
0.025538994,
|
|
||||||
0.02061816,
|
|
||||||
0.03757256,
|
|
||||||
-0.1043548,
|
|
||||||
-0.028326731,
|
|
||||||
-0.05209465,
|
|
||||||
0.0128473425,
|
|
||||||
-0.051238894,
|
|
||||||
-0.029034877,
|
|
||||||
-0.09633617,
|
|
||||||
-0.042309195,
|
|
||||||
0.067165054,
|
|
||||||
-0.030870603,
|
|
||||||
-0.010357507,
|
|
||||||
0.027381465,
|
|
||||||
-0.028105576,
|
|
||||||
0.010302046,
|
|
||||||
0.04306986,
|
|
||||||
0.022315372,
|
|
||||||
0.007954779,
|
|
||||||
0.056068663,
|
|
||||||
0.04071972,
|
|
||||||
0.09293905,
|
|
||||||
0.016536433,
|
|
||||||
-0.053764775,
|
|
||||||
0.00047211433,
|
|
||||||
0.050708972,
|
|
||||||
0.042510226,
|
|
||||||
-0.029195962,
|
|
||||||
0.009274875,
|
|
||||||
-0.010647389,
|
|
||||||
-0.037209682,
|
|
||||||
0.002267011,
|
|
||||||
-0.030304702,
|
|
||||||
0.0745741,
|
|
||||||
0.0026207205,
|
|
||||||
-0.017582772,
|
|
||||||
0.0028797672,
|
|
||||||
0.038404796,
|
|
||||||
0.00723137,
|
|
||||||
0.045613218,
|
|
||||||
0.03998252,
|
|
||||||
0.014209623,
|
|
||||||
-0.0142997475,
|
|
||||||
0.05850862,
|
|
||||||
0.03630791,
|
|
||||||
0.055294298,
|
|
||||||
-0.020075988,
|
|
||||||
-0.08041808,
|
|
||||||
-0.030250112,
|
|
||||||
-0.014920701,
|
|
||||||
0.022349516,
|
|
||||||
0.011911506,
|
|
||||||
-0.06903851,
|
|
||||||
-1.8806734e-08,
|
|
||||||
-0.078480355,
|
|
||||||
0.046674173,
|
|
||||||
-0.023920896,
|
|
||||||
0.0634942,
|
|
||||||
0.02396477,
|
|
||||||
0.0014517035,
|
|
||||||
-0.090798445,
|
|
||||||
-0.06684978,
|
|
||||||
-0.0801405,
|
|
||||||
0.005503192,
|
|
||||||
0.053675175,
|
|
||||||
0.104841895,
|
|
||||||
-0.066848256,
|
|
||||||
0.015522683,
|
|
||||||
0.067097165,
|
|
||||||
0.070832625,
|
|
||||||
-0.03197915,
|
|
||||||
0.020843629,
|
|
||||||
-0.0219202,
|
|
||||||
-0.0073016756,
|
|
||||||
-0.010645817,
|
|
||||||
0.0040983153,
|
|
||||||
0.03313765,
|
|
||||||
-0.0790081,
|
|
||||||
0.03878132,
|
|
||||||
-0.075230986,
|
|
||||||
-0.015732396,
|
|
||||||
0.0060099233,
|
|
||||||
0.0051297406,
|
|
||||||
-0.061492138,
|
|
||||||
0.04202211,
|
|
||||||
0.09544608,
|
|
||||||
-0.04318599,
|
|
||||||
0.014424486,
|
|
||||||
-0.10617826,
|
|
||||||
-0.027963417,
|
|
||||||
0.011034413,
|
|
||||||
0.069576606,
|
|
||||||
0.06689785,
|
|
||||||
-0.07479674,
|
|
||||||
-0.07851099,
|
|
||||||
0.042766396,
|
|
||||||
-0.034639932,
|
|
||||||
-0.10607304,
|
|
||||||
-0.03577663,
|
|
||||||
0.051540814,
|
|
||||||
0.068673156,
|
|
||||||
-0.049959548,
|
|
||||||
0.015460458,
|
|
||||||
-0.064520314,
|
|
||||||
-0.076010585,
|
|
||||||
0.026035817,
|
|
||||||
0.07440218,
|
|
||||||
-0.012396022,
|
|
||||||
0.13329679,
|
|
||||||
0.074770845,
|
|
||||||
0.05134284,
|
|
||||||
0.020977058,
|
|
||||||
-0.026776016,
|
|
||||||
0.08894323,
|
|
||||||
0.039937407,
|
|
||||||
-0.04102053,
|
|
||||||
0.03194075,
|
|
||||||
0.018113315
|
|
||||||
],
|
|
||||||
"index": 0,
|
|
||||||
"object": "embedding"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"object": "list",
|
|
||||||
"usage": {
|
|
||||||
"prompt_tokens": 4,
|
|
||||||
"total_tokens": 4
|
|
||||||
}
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,54 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_completion.py::test_openai_completion_guided_choice[txt=vllm/Qwen/Qwen3-0.6B]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:8000/v1/v1/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "Qwen/Qwen3-0.6B",
|
|
||||||
"prompt": "I am feeling really sad today.",
|
|
||||||
"stream": false,
|
|
||||||
"extra_body": {
|
|
||||||
"guided_choices": [
|
|
||||||
"joy",
|
|
||||||
"sadness"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/completions",
|
|
||||||
"model": "Qwen/Qwen3-0.6B"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.completion.Completion",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-e3727f6c749a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"finish_reason": "length",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null,
|
|
||||||
"text": " I feel that I am not good enough, and I feel like I have no",
|
|
||||||
"stop_reason": null,
|
|
||||||
"prompt_logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "Qwen/Qwen3-0.6B",
|
|
||||||
"object": "text_completion",
|
|
||||||
"system_fingerprint": null,
|
|
||||||
"usage": {
|
|
||||||
"completion_tokens": 16,
|
|
||||||
"prompt_tokens": 7,
|
|
||||||
"total_tokens": 23,
|
|
||||||
"completion_tokens_details": null,
|
|
||||||
"prompt_tokens_details": null
|
|
||||||
},
|
|
||||||
"service_tier": null,
|
|
||||||
"kv_transfer_params": null
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,421 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_different_inputs_different_outputs[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://0.0.0.0:11434/v1/v1/embeddings",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"input": "This is completely different content",
|
|
||||||
"encoding_format": "float"
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/embeddings",
|
|
||||||
"model": "all-minilm:l6-v2"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.create_embedding_response.CreateEmbeddingResponse",
|
|
||||||
"__data__": {
|
|
||||||
"data": [
|
|
||||||
{
|
|
||||||
"embedding": [
|
|
||||||
0.050927628,
|
|
||||||
0.038399037,
|
|
||||||
-0.05559374,
|
|
||||||
-0.105984606,
|
|
||||||
0.06944504,
|
|
||||||
-0.08054001,
|
|
||||||
-0.025946686,
|
|
||||||
-0.045175657,
|
|
||||||
0.068730615,
|
|
||||||
0.016510814,
|
|
||||||
-0.0011700827,
|
|
||||||
0.023414683,
|
|
||||||
-0.0034143464,
|
|
||||||
0.06804153,
|
|
||||||
-0.021997927,
|
|
||||||
-0.014162646,
|
|
||||||
0.12356902,
|
|
||||||
-0.06536738,
|
|
||||||
-0.082627006,
|
|
||||||
0.04300477,
|
|
||||||
-0.039514318,
|
|
||||||
0.055434275,
|
|
||||||
-0.008866895,
|
|
||||||
0.020934915,
|
|
||||||
0.016280092,
|
|
||||||
0.09630312,
|
|
||||||
-0.022835929,
|
|
||||||
0.09175565,
|
|
||||||
0.06409549,
|
|
||||||
-0.06226981,
|
|
||||||
0.010888244,
|
|
||||||
0.07833004,
|
|
||||||
0.08844764,
|
|
||||||
-0.008459277,
|
|
||||||
-0.07542651,
|
|
||||||
0.04800223,
|
|
||||||
0.0042286967,
|
|
||||||
0.037884884,
|
|
||||||
0.0023502677,
|
|
||||||
0.032233667,
|
|
||||||
0.0047689923,
|
|
||||||
-0.070404515,
|
|
||||||
-0.06513966,
|
|
||||||
0.061046362,
|
|
||||||
0.021522248,
|
|
||||||
0.10113185,
|
|
||||||
-0.07537441,
|
|
||||||
-0.04074795,
|
|
||||||
-0.0055522234,
|
|
||||||
-0.0037093374,
|
|
||||||
-0.021283673,
|
|
||||||
-0.018193243,
|
|
||||||
-0.03323253,
|
|
||||||
-0.015658593,
|
|
||||||
0.0032862085,
|
|
||||||
0.037399907,
|
|
||||||
-0.021028537,
|
|
||||||
0.052572608,
|
|
||||||
0.10211333,
|
|
||||||
-0.018634265,
|
|
||||||
0.03612266,
|
|
||||||
0.08958185,
|
|
||||||
0.050681055,
|
|
||||||
0.019839589,
|
|
||||||
0.10220134,
|
|
||||||
-0.059074707,
|
|
||||||
-0.045562137,
|
|
||||||
-0.024107283,
|
|
||||||
-0.059917513,
|
|
||||||
-0.09795064,
|
|
||||||
-0.002078402,
|
|
||||||
0.032211803,
|
|
||||||
0.04863422,
|
|
||||||
0.08062527,
|
|
||||||
0.022614514,
|
|
||||||
0.0005379622,
|
|
||||||
-0.0015465368,
|
|
||||||
0.010018953,
|
|
||||||
-0.089729026,
|
|
||||||
0.023838207,
|
|
||||||
-0.015227461,
|
|
||||||
-0.020540234,
|
|
||||||
0.08525423,
|
|
||||||
-0.08025672,
|
|
||||||
-0.002200058,
|
|
||||||
0.0649954,
|
|
||||||
-0.023069935,
|
|
||||||
-0.06201302,
|
|
||||||
-0.06545048,
|
|
||||||
-0.029986514,
|
|
||||||
0.0045501734,
|
|
||||||
0.09718718,
|
|
||||||
0.09153336,
|
|
||||||
-0.0059684636,
|
|
||||||
-0.048185453,
|
|
||||||
-0.011855243,
|
|
||||||
-0.03170323,
|
|
||||||
-0.010363732,
|
|
||||||
0.029717747,
|
|
||||||
0.103405535,
|
|
||||||
-0.029072085,
|
|
||||||
0.005597891,
|
|
||||||
-0.03075466,
|
|
||||||
-0.011073092,
|
|
||||||
-0.038647823,
|
|
||||||
-0.01590583,
|
|
||||||
0.0008562756,
|
|
||||||
0.03479237,
|
|
||||||
0.0039463183,
|
|
||||||
-0.020063022,
|
|
||||||
-0.048164852,
|
|
||||||
0.026510539,
|
|
||||||
-0.061183933,
|
|
||||||
-0.046969693,
|
|
||||||
0.02144617,
|
|
||||||
-0.048452575,
|
|
||||||
0.02205527,
|
|
||||||
0.015723849,
|
|
||||||
0.056344535,
|
|
||||||
0.055321235,
|
|
||||||
0.037136998,
|
|
||||||
-0.08872732,
|
|
||||||
0.011813868,
|
|
||||||
0.0064246035,
|
|
||||||
-0.020590257,
|
|
||||||
-0.059401207,
|
|
||||||
0.012338125,
|
|
||||||
-2.4301395e-33,
|
|
||||||
0.068363585,
|
|
||||||
-0.05303797,
|
|
||||||
0.011494271,
|
|
||||||
0.06953355,
|
|
||||||
0.013304427,
|
|
||||||
0.0020351785,
|
|
||||||
-0.020783585,
|
|
||||||
0.028951883,
|
|
||||||
0.034663863,
|
|
||||||
-0.03274387,
|
|
||||||
0.00095708756,
|
|
||||||
0.008672852,
|
|
||||||
0.007618213,
|
|
||||||
-0.024579093,
|
|
||||||
0.030253874,
|
|
||||||
-0.034167152,
|
|
||||||
-0.0315152,
|
|
||||||
0.1105276,
|
|
||||||
0.03499844,
|
|
||||||
0.045135163,
|
|
||||||
0.00044455956,
|
|
||||||
0.051429555,
|
|
||||||
0.015050582,
|
|
||||||
-0.009024664,
|
|
||||||
0.023132037,
|
|
||||||
0.05141033,
|
|
||||||
-0.00417506,
|
|
||||||
0.004720958,
|
|
||||||
-0.016197585,
|
|
||||||
-0.025692327,
|
|
||||||
-0.024077175,
|
|
||||||
-0.00953031,
|
|
||||||
0.05060433,
|
|
||||||
-0.058328744,
|
|
||||||
0.04903431,
|
|
||||||
0.07964924,
|
|
||||||
0.03599398,
|
|
||||||
-0.065374464,
|
|
||||||
-0.035382472,
|
|
||||||
-0.07028972,
|
|
||||||
-0.009750123,
|
|
||||||
-0.031909473,
|
|
||||||
-0.04101604,
|
|
||||||
-0.041144423,
|
|
||||||
-0.036323845,
|
|
||||||
0.06685511,
|
|
||||||
0.016679594,
|
|
||||||
-0.048498012,
|
|
||||||
-0.015474575,
|
|
||||||
-0.00048608257,
|
|
||||||
0.03267068,
|
|
||||||
-0.010890426,
|
|
||||||
0.016646467,
|
|
||||||
-0.057286758,
|
|
||||||
0.008073807,
|
|
||||||
0.008808943,
|
|
||||||
-0.061580453,
|
|
||||||
-0.010815387,
|
|
||||||
0.0717443,
|
|
||||||
0.08607838,
|
|
||||||
0.014073375,
|
|
||||||
0.014896061,
|
|
||||||
-0.098295614,
|
|
||||||
-0.046653833,
|
|
||||||
0.033601493,
|
|
||||||
0.0647405,
|
|
||||||
-0.007525925,
|
|
||||||
0.025440095,
|
|
||||||
0.04171436,
|
|
||||||
-0.033113986,
|
|
||||||
-0.014553822,
|
|
||||||
0.024878975,
|
|
||||||
0.045614205,
|
|
||||||
-0.042929318,
|
|
||||||
-0.040504646,
|
|
||||||
-0.06304663,
|
|
||||||
-0.022389242,
|
|
||||||
0.010583584,
|
|
||||||
-0.032525852,
|
|
||||||
-0.03146621,
|
|
||||||
0.0081922775,
|
|
||||||
0.021094568,
|
|
||||||
0.0095269885,
|
|
||||||
-0.08290188,
|
|
||||||
-0.021351986,
|
|
||||||
0.008777032,
|
|
||||||
0.060185786,
|
|
||||||
-0.062182017,
|
|
||||||
0.004518251,
|
|
||||||
0.05684528,
|
|
||||||
-0.013033095,
|
|
||||||
0.01867297,
|
|
||||||
-0.008998785,
|
|
||||||
-0.076766245,
|
|
||||||
0.051622886,
|
|
||||||
1.6926977e-33,
|
|
||||||
-0.12588808,
|
|
||||||
0.011676749,
|
|
||||||
-0.079886116,
|
|
||||||
0.02304184,
|
|
||||||
0.029238446,
|
|
||||||
0.08721121,
|
|
||||||
0.06906221,
|
|
||||||
0.032533444,
|
|
||||||
0.047794122,
|
|
||||||
0.13212898,
|
|
||||||
0.03129717,
|
|
||||||
-0.0125368,
|
|
||||||
0.0035920327,
|
|
||||||
-0.016413208,
|
|
||||||
-0.038557872,
|
|
||||||
0.016005918,
|
|
||||||
0.09166447,
|
|
||||||
0.047558285,
|
|
||||||
-0.054981478,
|
|
||||||
0.06797876,
|
|
||||||
0.017968502,
|
|
||||||
0.118666455,
|
|
||||||
-0.069318265,
|
|
||||||
0.043814093,
|
|
||||||
0.04150938,
|
|
||||||
-0.017812226,
|
|
||||||
0.051738504,
|
|
||||||
0.06795029,
|
|
||||||
0.080493495,
|
|
||||||
0.005386888,
|
|
||||||
0.08878265,
|
|
||||||
-0.036075104,
|
|
||||||
-0.07708273,
|
|
||||||
-0.09101018,
|
|
||||||
-0.09597232,
|
|
||||||
-0.0937606,
|
|
||||||
-0.06200779,
|
|
||||||
0.06722552,
|
|
||||||
-0.0006647803,
|
|
||||||
0.029067127,
|
|
||||||
0.08179574,
|
|
||||||
-0.06488274,
|
|
||||||
-0.050375167,
|
|
||||||
-0.002403243,
|
|
||||||
-0.026110265,
|
|
||||||
-0.007630271,
|
|
||||||
0.011972527,
|
|
||||||
-0.08573929,
|
|
||||||
0.04107404,
|
|
||||||
0.024723932,
|
|
||||||
-0.02222756,
|
|
||||||
-0.11560156,
|
|
||||||
0.006753066,
|
|
||||||
-0.04589066,
|
|
||||||
-0.06369223,
|
|
||||||
0.053635046,
|
|
||||||
0.005769477,
|
|
||||||
0.06325056,
|
|
||||||
0.0048679966,
|
|
||||||
-0.057087842,
|
|
||||||
0.041931894,
|
|
||||||
0.022344982,
|
|
||||||
-0.14709935,
|
|
||||||
0.026361033,
|
|
||||||
0.106274396,
|
|
||||||
-0.0059068515,
|
|
||||||
0.020035667,
|
|
||||||
0.034950804,
|
|
||||||
-0.03342695,
|
|
||||||
-0.03884034,
|
|
||||||
-0.076072656,
|
|
||||||
-0.11173452,
|
|
||||||
-0.038953967,
|
|
||||||
-0.10270519,
|
|
||||||
0.04714134,
|
|
||||||
-0.049391687,
|
|
||||||
0.074747935,
|
|
||||||
0.041724026,
|
|
||||||
-0.031083144,
|
|
||||||
0.0033830043,
|
|
||||||
0.055804495,
|
|
||||||
-0.031882074,
|
|
||||||
-0.02541756,
|
|
||||||
0.050101582,
|
|
||||||
0.035991114,
|
|
||||||
0.09143438,
|
|
||||||
-0.07581111,
|
|
||||||
-0.050589707,
|
|
||||||
0.0074097887,
|
|
||||||
-0.0014020415,
|
|
||||||
-0.05036443,
|
|
||||||
-0.0015289022,
|
|
||||||
0.005471816,
|
|
||||||
0.07689256,
|
|
||||||
0.014164922,
|
|
||||||
-1.8297508e-08,
|
|
||||||
0.029913928,
|
|
||||||
-0.057959806,
|
|
||||||
-0.06846765,
|
|
||||||
0.026196472,
|
|
||||||
-0.0035178436,
|
|
||||||
0.11374637,
|
|
||||||
0.056845777,
|
|
||||||
-0.09315407,
|
|
||||||
0.0027757618,
|
|
||||||
0.10895455,
|
|
||||||
-0.033027817,
|
|
||||||
0.005051668,
|
|
||||||
-0.043633904,
|
|
||||||
-0.048978273,
|
|
||||||
0.011912417,
|
|
||||||
0.059747256,
|
|
||||||
-0.08661686,
|
|
||||||
-0.052748058,
|
|
||||||
0.026321623,
|
|
||||||
0.042173225,
|
|
||||||
-0.0035451513,
|
|
||||||
0.03797019,
|
|
||||||
0.022595786,
|
|
||||||
-0.0614702,
|
|
||||||
0.01268269,
|
|
||||||
0.040893063,
|
|
||||||
-0.084825225,
|
|
||||||
0.041167296,
|
|
||||||
-0.038163006,
|
|
||||||
0.008364558,
|
|
||||||
0.01014753,
|
|
||||||
0.024994388,
|
|
||||||
-0.012504467,
|
|
||||||
-0.045078665,
|
|
||||||
0.0102669485,
|
|
||||||
-0.046302866,
|
|
||||||
0.061438397,
|
|
||||||
0.016235871,
|
|
||||||
-0.0011558776,
|
|
||||||
0.007455159,
|
|
||||||
-0.019448454,
|
|
||||||
-0.06798961,
|
|
||||||
0.05472832,
|
|
||||||
0.09646006,
|
|
||||||
-0.04711737,
|
|
||||||
0.060088705,
|
|
||||||
0.0030213061,
|
|
||||||
-0.08877283,
|
|
||||||
0.037262574,
|
|
||||||
-0.009947699,
|
|
||||||
0.0035697597,
|
|
||||||
-0.07833652,
|
|
||||||
0.02169359,
|
|
||||||
-0.013075168,
|
|
||||||
0.072521746,
|
|
||||||
-0.0649658,
|
|
||||||
-0.029920656,
|
|
||||||
-0.017777385,
|
|
||||||
0.033904497,
|
|
||||||
0.02919506,
|
|
||||||
0.08793891,
|
|
||||||
0.008437021,
|
|
||||||
0.064442866,
|
|
||||||
-0.01656208
|
|
||||||
],
|
|
||||||
"index": 0,
|
|
||||||
"object": "embedding"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"object": "list",
|
|
||||||
"usage": {
|
|
||||||
"prompt_tokens": 5,
|
|
||||||
"total_tokens": 5
|
|
||||||
}
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_multiple_strings[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:35:05.079436-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b-instruct-fp16",
|
|
||||||
"name": "llama3.2:3b-instruct-fp16",
|
|
||||||
"digest": "195a8c01d91ec3cb1e0aad4624a51f2602c51fa7d96110f8ab5a20c84081804d",
|
|
||||||
"expires_at": "2025-10-08T11:35:04.346635-07:00",
|
|
||||||
"size": 7919570944,
|
|
||||||
"size_vram": 7919570944,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,54 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_completion.py::test_openai_completion_guided_choice[txt=vllm/Qwen/Qwen3-0.6B]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:8000/v1/v1/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "Qwen/Qwen3-0.6B",
|
|
||||||
"prompt": "I am feeling really sad today.",
|
|
||||||
"stream": false,
|
|
||||||
"extra_body": {
|
|
||||||
"guided_choice": [
|
|
||||||
"joy",
|
|
||||||
"sadness"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/completions",
|
|
||||||
"model": "Qwen/Qwen3-0.6B"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "openai.types.completion.Completion",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-f02f1bfd75ad",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null,
|
|
||||||
"text": "sadness",
|
|
||||||
"stop_reason": null,
|
|
||||||
"prompt_logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "Qwen/Qwen3-0.6B",
|
|
||||||
"object": "text_completion",
|
|
||||||
"system_fingerprint": null,
|
|
||||||
"usage": {
|
|
||||||
"completion_tokens": 3,
|
|
||||||
"prompt_tokens": 7,
|
|
||||||
"total_tokens": 10,
|
|
||||||
"completion_tokens_details": null,
|
|
||||||
"prompt_tokens_details": null
|
|
||||||
},
|
|
||||||
"service_tier": null,
|
|
||||||
"kv_transfer_params": null
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_multiple_strings[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:32:10.779723-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama-guard3:1b",
|
|
||||||
"name": "llama-guard3:1b",
|
|
||||||
"digest": "494147e06bf99e10dbe67b63a07ac81c162f18ef3341aa3390007ac828571b3b",
|
|
||||||
"expires_at": "2025-10-08T11:30:00.392919-07:00",
|
|
||||||
"size": 2350966784,
|
|
||||||
"size_vram": 2350966784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "1.5B",
|
|
||||||
"quantization_level": "Q8_0"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_empty_list_error[openai_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:35:05.489695-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b-instruct-fp16",
|
|
||||||
"name": "llama3.2:3b-instruct-fp16",
|
|
||||||
"digest": "195a8c01d91ec3cb1e0aad4624a51f2602c51fa7d96110f8ab5a20c84081804d",
|
|
||||||
"expires_at": "2025-10-08T11:35:04.346635-07:00",
|
|
||||||
"size": 7919570944,
|
|
||||||
"size_vram": 7919570944,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,75 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/inference/test_openai_embeddings.py::test_openai_embeddings_with_user_parameter[llama_stack_client-emb=ollama/all-minilm:l6-v2]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "http://localhost:11434/api/ps",
|
|
||||||
"headers": {},
|
|
||||||
"body": {},
|
|
||||||
"endpoint": "/api/ps",
|
|
||||||
"model": ""
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": {
|
|
||||||
"__type__": "ollama._types.ProcessResponse",
|
|
||||||
"__data__": {
|
|
||||||
"models": [
|
|
||||||
{
|
|
||||||
"model": "llama3.2:3b",
|
|
||||||
"name": "llama3.2:3b",
|
|
||||||
"digest": "a80c4f17acd55265feec403c7aef86be0c25983ab279d83f3bcd3abbcb5b8b72",
|
|
||||||
"expires_at": "2025-10-08T16:14:05.423042-07:00",
|
|
||||||
"size": 3367856128,
|
|
||||||
"size_vram": 3367856128,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "3.2B",
|
|
||||||
"quantization_level": "Q4_K_M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "all-minilm:l6-v2",
|
|
||||||
"name": "all-minilm:l6-v2",
|
|
||||||
"digest": "1b226e2802dbb772b5fc32a58f103ca1804ef7501331012de126ab22f67475ef",
|
|
||||||
"expires_at": "2025-10-08T11:32:11.101611-07:00",
|
|
||||||
"size": 585846784,
|
|
||||||
"size_vram": 585846784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "bert",
|
|
||||||
"families": [
|
|
||||||
"bert"
|
|
||||||
],
|
|
||||||
"parameter_size": "23M",
|
|
||||||
"quantization_level": "F16"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"model": "llama-guard3:1b",
|
|
||||||
"name": "llama-guard3:1b",
|
|
||||||
"digest": "494147e06bf99e10dbe67b63a07ac81c162f18ef3341aa3390007ac828571b3b",
|
|
||||||
"expires_at": "2025-10-08T11:30:00.392919-07:00",
|
|
||||||
"size": 2350966784,
|
|
||||||
"size_vram": 2350966784,
|
|
||||||
"details": {
|
|
||||||
"parent_model": "",
|
|
||||||
"format": "gguf",
|
|
||||||
"family": "llama",
|
|
||||||
"families": [
|
|
||||||
"llama"
|
|
||||||
],
|
|
||||||
"parameter_size": "1.5B",
|
|
||||||
"quantization_level": "Q8_0"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"is_streaming": false
|
|
||||||
}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
File diff suppressed because it is too large
Load diff
|
|
@ -1,372 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_sequential_file_search[openai_client-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_aPe1vS1v5bIwPgl789D5bfmW",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_aPe1vS1v5bIwPgl789D5bfmW",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-690481987689, score: 2.5781234969335522, attributes: {'filename': 'test_sequential_file_search.txt', 'document_id': 'file-690481987689', 'token_count': 19.0, 'metadata_token_count': 11.0} (cite as <|file-690481987689|>)\nThe Llama 4 Maverick model has 128 experts in its mixture of experts architecture.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "The Llama 4 Maverick model has 128 experts in its mixture of experts architecture <|file-690481987689|>."
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "Can you tell me more about the architecture?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_UqyVZyvMh30eQuiKg7lJIUhQ",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model architecture\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_UqyVZyvMh30eQuiKg7lJIUhQ",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-690481987689, score: 1.9327567816402336, attributes: {'filename': 'test_sequential_file_search.txt', 'document_id': 'file-690481987689', 'token_count': 19.0, 'metadata_token_count': 11.0} (cite as <|file-690481987689|>)\nThe Llama 4 Maverick model has 128 experts in its mixture of experts architecture.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model architecture\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-07b6475c4213",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "MR85AdN9cL5"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-07b6475c4213",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The Llama ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "PU1MvlGgbp"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-07b6475c4213",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4 Maverick model's architecture utilizes a mixture of experts,",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "j5k5TwcdwAGF"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-07b6475c4213",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " comprising ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "RY"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-07b6475c4213",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128 experts <|file-690481987689|>.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "zfJzUoSQia"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-07b6475c4213",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Unfortunately,",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "myxQ8DZiq0bzUFn"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-07b6475c4213",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " the retrieved data did not provide more detailed information beyond this specific aspect of the architecture.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "tqzrfbJ9V"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-07b6475c4213",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Would you like me to search for additional details?",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "p8JOT5P"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-07b6475c4213",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "tA2QeAL"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,501 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_basic_responses.py::test_response_streaming_incremental_content[client_with_models-txt=openai/gpt-4o-image_input]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "what teams are playing in this image?"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "image_url",
|
|
||||||
"image_url": {
|
|
||||||
"url": "https://upload.wikimedia.org/wikipedia/commons/3/3b/LeBron_James_Layup_%28Cleveland_vs_Brooklyn_2018%29.jpg",
|
|
||||||
"detail": "auto"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "yMCwuyKGkkx"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "0xlTxebHHG"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " teams",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "3jk1vlQ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " playing",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "p4G1M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " in",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "81xj8HWO40"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " the",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "eAxxAZtlv"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " image",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "lZlPH3L"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " are",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Fv9MEQ91I"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " the",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "xxk8IMpi9"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Cleveland",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "6ot"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Cavaliers",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "2Ht"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " and",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "m4gTYtRaL"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " the",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "bsGmTGWXd"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Brooklyn",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "84zH"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Nets",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "5hNgPUCd"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ".",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "GuPmTQ7XIoVl"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-08f3fbf0d55f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "d4KX2ki"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
File diff suppressed because it is too large
Load diff
|
|
@ -1,629 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_sequential_file_search[openai_client-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_aPe1vS1v5bIwPgl789D5bfmW",
|
|
||||||
"function": {
|
|
||||||
"arguments": "",
|
|
||||||
"name": "knowledge_search"
|
|
||||||
},
|
|
||||||
"type": "function"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "b"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "{\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "query",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "XcH6k6sgVs7b6E"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\":\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "5JbtLEKFxBMFGe"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "L",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "0i"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "lama",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "7I06Mzy6Bm3juqj"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " ",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "co"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "4",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Ki"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " Maver",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "HNWlcmJWbps41"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "ick",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " model",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "n2ZzmmZvrA2n5"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " number",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "vtA3Q5q7euzF"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " of",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " experts",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "sIZkfWN1UkF"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\"}",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0f79646fcf8a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "tool_calls",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "w"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,219 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_sequential_file_search[openai_client-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_aPe1vS1v5bIwPgl789D5bfmW",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_aPe1vS1v5bIwPgl789D5bfmW",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-690481987689, score: 2.5781234969335522, attributes: {'filename': 'test_sequential_file_search.txt', 'document_id': 'file-690481987689', 'token_count': 19.0, 'metadata_token_count': 11.0} (cite as <|file-690481987689|>)\nThe Llama 4 Maverick model has 128 experts in its mixture of experts architecture.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0fd12925d27e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "SgS7tknb3vK"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0fd12925d27e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The Llama ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Rf8yvaq0Sm"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0fd12925d27e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4 Maverick model has ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "KwthQ5gO2NxL"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0fd12925d27e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128 experts in its mixture of experts architecture <|file-690481987689|>.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "wmUFlFBAXg"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-0fd12925d27e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "El7QNNB"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,736 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_non_streaming_file_search[openai_client-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536-llama_experts_pdf]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_zKJ7WgvCO3tx6yB0We1qI0d8",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_zKJ7WgvCO3tx6yB0We1qI0d8",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 2 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-728796232029, score: 1.4945131220963286, attributes: {'filename': 'llama_stack_and_models.pdf', 'document_id': 'file-728796232029', 'token_count': 98.0, 'metadata_token_count': 11.0} (cite as <|file-728796232029|>)\n, \nhardware\n \nvendors,\n \nand\n \nAI-focused\n \ncompanies)\n \nthat\n \noffer\n \ntailored\n \ninfrastructure,\n \nsoftware,\n \nand\n \nservices\n \nfor\n \ndeploying\n \nLlama\n \nmodels.\n \nLlama 4 Maverick \n Llama 4 Maverick is a Mixture-of-Experts (MoE) model with 17 billion active parameters and 128 experts. \n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[2] document_id: file-728796232029, score: 1.1415676746925796, attributes: {'filename': 'llama_stack_and_models.pdf', 'document_id': 'file-728796232029', 'token_count': 498.0, 'metadata_token_count': 11.0} (cite as <|file-728796232029|>)\nLlama Stack \nLlama Stack Overview \nLlama Stack standardizes the core building blocks that simplify AI application development. It codifies best \npractices\n \nacross\n \nthe\n \nLlama\n \necosystem.\n \nMore\n \nspecifically,\n \nit\n \nprovides\n \u25cf Unified API layer for Inference, RAG, Agents, Tools, Safety, Evals, and Telemetry. \u25cf Plugin architecture to support the rich ecosystem of different API implementations in various \nenvironments,\n \nincluding\n \nlocal\n \ndevelopment,\n \non-premises,\n \ncloud,\n \nand\n \nmobile.\n \u25cf Prepackaged verified distributions which offer a one-stop solution for developers to get started quickly \nand\n \nreliably\n \nin\n \nany\n \nenvironment.\n \u25cf Multiple developer interfaces like CLI and SDKs for Python, Typescript, iOS, and Android. \u25cf Standalone applications as examples for how to build production-grade AI applications with Llama \nStack.\n \nLlama Stack Benefits \n\u25cf Flexible Options: Developers can choose their preferred infrastructure without changing APIs and enjoy \nflexible\n \ndeployment\n \nchoices.\n \u25cf Consistent Experience: With its unified APIs, Llama Stack makes it easier to build, test, and deploy AI \napplications\n \nwith\n \nconsistent\n \napplication\n \nbehavior.\n \u25cf Robust Ecosystem: Llama Stack is already integrated with distribution partners (cloud providers, \nhardware\n \nvendors,\n \nand\n \nAI-focused\n \ncompanies)\n \nthat\n \noffer\n \ntailored\n \ninfrastructure,\n \nsoftware,\n \nand\n \nservices\n \nfor\n \ndeploying\n \nLlama\n \nmodels.\n \nLlama 4 Maverick \n Llama 4 Maverick is a Mixture-of-Experts (MoE) model with 17 billion active parameters and 128 experts. \n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ENuvzpFysz8"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "2HbZRVUFFg"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " L",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "BNEGZJgh3Tl"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "lama",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "xk7rD1rSp"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "gQdcUMsxT0yo"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Ra0PxK3m3Zdb"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Maver",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "dd99Gz7"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "ick",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ZlAssywyLw"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " model",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "UyHXuPw"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " has",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "x88jWxl4P"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "crjLwSE34Ddp"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "TVBHfvi6fD"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " experts",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "iqsCd"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " <",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "YvUfs4am4j0"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "1QJsOLneK7XO"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "file",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "FJaABaFPo"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "-",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "caCh6adcuuU0"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "728",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "0WRxIElZna"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "796",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "6vtpvYunNi"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "232",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "NQY9WQeXyf"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "029",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "kTErMjsXhL"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "AFFVNKPRMLQe"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ">.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Cw3MoLphY73"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-112ca0696d92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "XzYG9dj"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,600 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_sequential_file_search[openai_client-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_aPe1vS1v5bIwPgl789D5bfmW",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_aPe1vS1v5bIwPgl789D5bfmW",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-690481987689, score: 2.5781234969335522, attributes: {'filename': 'test_sequential_file_search.txt', 'document_id': 'file-690481987689', 'token_count': 19.0, 'metadata_token_count': 11.0} (cite as <|file-690481987689|>)\nThe Llama 4 Maverick model has 128 experts in its mixture of experts architecture.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "The Llama 4 Maverick model has 128 experts in its mixture of experts architecture <|file-690481987689|>."
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "Can you tell me more about the architecture?"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-127a97b42f23",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_UqyVZyvMh30eQuiKg7lJIUhQ",
|
|
||||||
"function": {
|
|
||||||
"arguments": "",
|
|
||||||
"name": "knowledge_search"
|
|
||||||
},
|
|
||||||
"type": "function"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "L"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-127a97b42f23",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "{\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-127a97b42f23",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "query",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "rOZPdKYIRKVpUK"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-127a97b42f23",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\":\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "KbnFcNwgyiUhKq"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-127a97b42f23",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "L",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Wj"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-127a97b42f23",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "lama",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "2HMMQqdTQMzWCVE"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-127a97b42f23",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " ",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "eF"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-127a97b42f23",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "4",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "1C"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-127a97b42f23",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " Maver",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "BDs9l6hlr8pF5"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-127a97b42f23",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "ick",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-127a97b42f23",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " model",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "k0Bkf9cbzy8r0"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-127a97b42f23",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " architecture",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "sxpQee"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-127a97b42f23",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\"}",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-127a97b42f23",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "tool_calls",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "j"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
|
|
@ -1,600 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_sequential_file_search[openai_client-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_aPe1vS1v5bIwPgl789D5bfmW",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_aPe1vS1v5bIwPgl789D5bfmW",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-690481987689, score: 2.5781234969335522, attributes: {'filename': 'test_sequential_file_search.txt', 'document_id': 'file-690481987689', 'token_count': 19.0, 'metadata_token_count': 11.0} (cite as <|file-690481987689|>)\nThe Llama 4 Maverick model has 128 experts in its mixture of experts architecture.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "The Llama 4 Maverick model has 128 experts in its mixture of experts architecture <|file-690481987689|>."
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "Can you tell me more about the architecture?"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-16499abd5090",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_aEKglNSWb5ideZe9cXNT3ftB",
|
|
||||||
"function": {
|
|
||||||
"arguments": "",
|
|
||||||
"name": "knowledge_search"
|
|
||||||
},
|
|
||||||
"type": "function"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "l"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-16499abd5090",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "{\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-16499abd5090",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "query",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "WGApyq02jAEZXn"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-16499abd5090",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\":\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "WsGeDu9A5Uxn6C"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-16499abd5090",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "L",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "9d"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-16499abd5090",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "lama",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Td67gx0QAA1TovA"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-16499abd5090",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " ",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "i3"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-16499abd5090",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "4",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "el"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-16499abd5090",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " Maver",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "E5pZrQ3iGuPNJ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-16499abd5090",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "ick",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-16499abd5090",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " model",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "2bMlKdXVzxunq"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-16499abd5090",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " architecture",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "rLrCr5"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-16499abd5090",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\"}",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-16499abd5090",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "tool_calls",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "q"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
File diff suppressed because it is too large
Load diff
|
|
@ -1,221 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_sequential_file_search[client_with_models-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_qzY7B7EArJwpMqLVer8kcAey",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_qzY7B7EArJwpMqLVer8kcAey",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-d7cee10212814cfcb75cc091eee11688, score: 2.5781234969335522, attributes: {'filename': 'test_sequential_file_search.txt', 'document_id': 'file-d7cee10212814cfcb75cc091eee11688', 'token_count': 19.0, 'metadata_token_count': 11.0} (cite as <|file-d7cee10212814cfcb75cc091eee11688|>)\nThe Llama 4 Maverick model has 128 experts in its mixture of experts architecture.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1b0c005eb4b9",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "HzERiIH1ZK7"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1b0c005eb4b9",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The Llama ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "cv3YyCIl31"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1b0c005eb4b9",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4 Maverick model has ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "FYYzpehV3ATW"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1b0c005eb4b9",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128 experts in its mixture of experts architecture <|file-1|>.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "8Wr2pBxPtw"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1b0c005eb4b9",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "svQvgkR"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {
|
|
||||||
"file-1": "file-d7cee10212814cfcb75cc091eee11688"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,925 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_sequential_file_search[client_with_models-txt=openai/gpt-4o:emb=Nomic-v1.5:dim=768]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_uy4RL1d6RPGFQ0dV63O5lqgM",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_uy4RL1d6RPGFQ0dV63O5lqgM",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-562027679042, score: 0.1388247736002883, attributes: {'filename': 'test_sequential_file_search.txt', 'document_id': 'file-562027679042', 'token_count': 19.0, 'metadata_token_count': 11.0} (cite as <|file-562027679042|>)\nThe Llama 4 Maverick model has 128 experts in its mixture of experts architecture.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"stream_options": {
|
|
||||||
"include_usage": true
|
|
||||||
},
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "2EJY6RYG1f5d42"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "7CD80O1tGuHTZ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " L",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "cNPCLBy1lWYbof"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "lama",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "e9YU2vMYUNHf"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "sGaeF65MTfIsIO2"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "hOFbfkF1gymbdao"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Maver",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "8WZycRAiEy"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "ick",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Zs88RZmq0R6ya"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " model",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "OW78bHP5QI"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " has",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ov77MgyixMAq"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "vOsm8uzT1yBIvWJ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "yxBtKxLEewN5T"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " experts",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "xMGg8fmm"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " in",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "QEow06TY8QMAd"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " its",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "0otLHvYdXdEZ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " mixture",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Xn49k6xo"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " of",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "CridY6OTzSh8r"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " experts",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "xO0z78PL"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " architecture",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Als"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " <",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Cc8mN12d0xKPli"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "AFtBjTsOji2E7M9"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "file",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "vvc1OWYnjtSS"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "-",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "WPLQEvWbBDlos3L"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "562",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "OQTOUsYlAnurs"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "027",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "fHxGMLHhWOfUo"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "679",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "uk8mcKSiFde5V"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "042",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "MpAsJUVnyOxxZ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "cXanxyvcioBUzDa"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ">.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "2de34d8Krg0Kfd"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "PttG3JhfiE"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1cc394167676",
|
|
||||||
"choices": [],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": {
|
|
||||||
"completion_tokens": 29,
|
|
||||||
"prompt_tokens": 332,
|
|
||||||
"total_tokens": 361,
|
|
||||||
"completion_tokens_details": {
|
|
||||||
"accepted_prediction_tokens": 0,
|
|
||||||
"audio_tokens": 0,
|
|
||||||
"reasoning_tokens": 0,
|
|
||||||
"rejected_prediction_tokens": 0
|
|
||||||
},
|
|
||||||
"prompt_tokens_details": {
|
|
||||||
"audio_tokens": 0,
|
|
||||||
"cached_tokens": 0
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"obfuscation": "WT3OFGDMydvrl"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,806 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_basic_responses.py::test_response_non_streaming_basic[openai_client-txt=openai/gpt-4o-image_input]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "what teams are playing in this image?"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "image_url",
|
|
||||||
"image_url": {
|
|
||||||
"url": "https://upload.wikimedia.org/wikipedia/commons/3/3b/LeBron_James_Layup_%28Cleveland_vs_Brooklyn_2018%29.jpg",
|
|
||||||
"detail": "auto"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "The teams playing in the image are the Cleveland Cavaliers and the Brooklyn Nets."
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "Repeat your previous response in all caps."
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "0syb0KC90IC"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "THE",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "aKSrEy1h0E"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " TE",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "iGhXl8ucJz"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "AMS",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "MQ2HVfDMhB"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " PLAY",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "hql2iwUv"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "ING",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "TzJWLegPv0"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " IN",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Ej6w1RRsNz"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " THE",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "TMO7CEOcX"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " IMAGE",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "CqqPZvr"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ARE",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "bKBrdQ22m"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " THE",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "AJcNxpIrF"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " C",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "toKbDOi0mwz"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "LEVEL",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "nW0BFLoR"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "AND",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "wE7Nx9jKgD"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " C",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "WwiZFUNehAU"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "AV",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "o8e5Tx6e3rB"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "ALI",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "7a2W34M3Mh"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "ERS",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "tN45f4ehs7"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " AND",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "TKErd9swc"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " THE",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "2obVuH9g4"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " BRO",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "dKNsQiYy9"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "OK",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "gQX0AjexfA9"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "LY",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "W9lcj86oUgc"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "N",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "CsUfDp24xD8r"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " NET",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "oL3RPrNu8"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "S",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "JQigDfEDGN3c"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ".",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "cTx9hH1zr2v7"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-1d05d239176a",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "DZsgLSt"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
File diff suppressed because it is too large
Load diff
File diff suppressed because it is too large
Load diff
|
|
@ -1,219 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_non_streaming_file_search[client_with_models-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536-llama_experts]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_90pCu8l9ITbz463ZJxhGGKm3",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_90pCu8l9ITbz463ZJxhGGKm3",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-36441599755, score: 2.933222791810999, attributes: {'filename': 'test_response_non_streaming_file_search.txt', 'document_id': 'file-36441599755', 'token_count': 10.0, 'metadata_token_count': 13.0} (cite as <|file-36441599755|>)\nLlama 4 Maverick has 128 experts\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-2f3f766a9601",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ZcjznG6Yo8S"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-2f3f766a9601",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The Llama ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "otwbPJWhEZ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-2f3f766a9601",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4 Maverick model has ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "WOGpoDlX3rN1"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-2f3f766a9601",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128 experts <|file-36441599755|>.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "td4Hm9RbPE"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-2f3f766a9601",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "PMGTSWK"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,628 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_non_streaming_file_search[client_with_models-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536-llama_experts_pdf]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_Zb3UPWm2DOVVTce3d5Uo21FX",
|
|
||||||
"function": {
|
|
||||||
"arguments": "",
|
|
||||||
"name": "knowledge_search"
|
|
||||||
},
|
|
||||||
"type": "function"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "P"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "{\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "query",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "6x0VcDoCoqmVh3"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\":\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "RRPew7pUv53ZAA"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "L",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "FO"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "lama",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "0JilTc0R4UjSxdK"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " ",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Hz"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "4",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Uy"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " Maver",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "cuztk0soSdNIk"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "ick",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " model",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "jiPg4RFCWi83I"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " number",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "zvtVzNxPSYG6"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " of",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " experts",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "AkpSLzVvW5j"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\"}",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-323c7637263f",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "tool_calls",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "p"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
File diff suppressed because it is too large
Load diff
File diff suppressed because it is too large
Load diff
File diff suppressed because it is too large
Load diff
|
|
@ -1,894 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_sequential_file_search[client_with_models-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_zS2WxgXWetjnlPt2MzH9Asrc",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_zS2WxgXWetjnlPt2MzH9Asrc",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-5217982280, score: 2.57802841833685, attributes: {'filename': 'test_sequential_file_search.txt', 'document_id': 'file-5217982280', 'token_count': 19.0, 'metadata_token_count': 11.0} (cite as <|file-5217982280|>)\nThe Llama 4 Maverick model has 128 experts in its mixture of experts architecture.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "amItPiP5QAq"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "R5IAYrCL3E"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " L",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "PNkTjhxEmYw"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "lama",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "iPtqxhWxc"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Q7bMc8LZm6Mo"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "JuiR9CWwUenS"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Maver",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "8Y2xBhJ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "ick",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "E3MWLHCW7y"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " model",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "l5k9QEa"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " has",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "funqp1RlK"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "wVjFgx9LFStT"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "jZ64HsO2Q3"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " experts",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ahg5B"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " in",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "YtA0WxfKJM"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " its",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "9GkVxf09J"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " mixture",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "3AKVw"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " of",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "WqgLgHbCFa"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " experts",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "O5JcV"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " architecture",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " <",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "7l8Wdws6GNB"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "CV9QIKb5ot5G"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "file",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "8ahZ946fv"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "-",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "k8WaN2iQg5fc"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "521",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "jvU71B6UAD"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "798",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "kzb3FVA4Pf"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "228",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "PoqcG7UlTQ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "0",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "tOYCUpaiNCFq"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "8kAEYX8teVvU"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ">.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "dwxIHH05K4I"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4525315e8eab",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "zPA3BvA"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,250 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_non_streaming_file_search[client_with_models-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536-llama_experts_pdf]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_Zb3UPWm2DOVVTce3d5Uo21FX",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_Zb3UPWm2DOVVTce3d5Uo21FX",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 2 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-433408948870, score: 1.4947232325305748, attributes: {'filename': 'llama_stack_and_models.pdf', 'document_id': 'file-433408948870', 'token_count': 98.0, 'metadata_token_count': 11.0} (cite as <|file-433408948870|>)\n, \nhardware\n \nvendors,\n \nand\n \nAI-focused\n \ncompanies)\n \nthat\n \noffer\n \ntailored\n \ninfrastructure,\n \nsoftware,\n \nand\n \nservices\n \nfor\n \ndeploying\n \nLlama\n \nmodels.\n \nLlama 4 Maverick \n Llama 4 Maverick is a Mixture-of-Experts (MoE) model with 17 billion active parameters and 128 experts. \n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[2] document_id: file-433408948870, score: 1.1417523389560924, attributes: {'filename': 'llama_stack_and_models.pdf', 'document_id': 'file-433408948870', 'token_count': 498.0, 'metadata_token_count': 11.0} (cite as <|file-433408948870|>)\nLlama Stack \nLlama Stack Overview \nLlama Stack standardizes the core building blocks that simplify AI application development. It codifies best \npractices\n \nacross\n \nthe\n \nLlama\n \necosystem.\n \nMore\n \nspecifically,\n \nit\n \nprovides\n \u25cf Unified API layer for Inference, RAG, Agents, Tools, Safety, Evals, and Telemetry. \u25cf Plugin architecture to support the rich ecosystem of different API implementations in various \nenvironments,\n \nincluding\n \nlocal\n \ndevelopment,\n \non-premises,\n \ncloud,\n \nand\n \nmobile.\n \u25cf Prepackaged verified distributions which offer a one-stop solution for developers to get started quickly \nand\n \nreliably\n \nin\n \nany\n \nenvironment.\n \u25cf Multiple developer interfaces like CLI and SDKs for Python, Typescript, iOS, and Android. \u25cf Standalone applications as examples for how to build production-grade AI applications with Llama \nStack.\n \nLlama Stack Benefits \n\u25cf Flexible Options: Developers can choose their preferred infrastructure without changing APIs and enjoy \nflexible\n \ndeployment\n \nchoices.\n \u25cf Consistent Experience: With its unified APIs, Llama Stack makes it easier to build, test, and deploy AI \napplications\n \nwith\n \nconsistent\n \napplication\n \nbehavior.\n \u25cf Robust Ecosystem: Llama Stack is already integrated with distribution partners (cloud providers, \nhardware\n \nvendors,\n \nand\n \nAI-focused\n \ncompanies)\n \nthat\n \noffer\n \ntailored\n \ninfrastructure,\n \nsoftware,\n \nand\n \nservices\n \nfor\n \ndeploying\n \nLlama\n \nmodels.\n \nLlama 4 Maverick \n Llama 4 Maverick is a Mixture-of-Experts (MoE) model with 17 billion active parameters and 128 experts. \n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4eb6e076a5b4",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ot9TaDQyHrX"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4eb6e076a5b4",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The Llama ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "vJfFXqDKPB"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4eb6e076a5b4",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4 Maverick model is a Mixture-of-Experts (MoE)",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "2LBRj2itsMHM"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4eb6e076a5b4",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " model with ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "9Stbjbq"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4eb6e076a5b4",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128 experts <|file-433408948870|>.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "KK4ebrfUqW"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-4eb6e076a5b4",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "A1JTNrt"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,320 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_sequential_file_search[client_with_models-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_qzY7B7EArJwpMqLVer8kcAey",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_qzY7B7EArJwpMqLVer8kcAey",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-d7cee10212814cfcb75cc091eee11688, score: 2.5781234969335522, attributes: {'filename': 'test_sequential_file_search.txt', 'document_id': 'file-d7cee10212814cfcb75cc091eee11688', 'token_count': 19.0, 'metadata_token_count': 11.0} (cite as <|file-d7cee10212814cfcb75cc091eee11688|>)\nThe Llama 4 Maverick model has 128 experts in its mixture of experts architecture.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "The Llama 4 Maverick model has 128 experts in its mixture of experts architecture <|file-d7cee10212814cfcb75cc091eee11688|>."
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "Can you tell me more about the architecture?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_1ALB4oPNgIKUK5psXuwbr75h",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model architecture details\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_1ALB4oPNgIKUK5psXuwbr75h",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-d7cee10212814cfcb75cc091eee11688, score: 1.932386575539943, attributes: {'filename': 'test_sequential_file_search.txt', 'document_id': 'file-d7cee10212814cfcb75cc091eee11688', 'token_count': 19.0, 'metadata_token_count': 11.0} (cite as <|file-d7cee10212814cfcb75cc091eee11688|>)\nThe Llama 4 Maverick model has 128 experts in its mixture of experts architecture.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model architecture details\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-50209c401365",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "FPdd0hyfwnG"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-50209c401365",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "I couldn't find additional details about the Llama ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "TijBcbYdXSvW"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-50209c401365",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4 Maverick model architecture beyond the fact that it has ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "bUHW7YseLUn1"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-50209c401365",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128 experts in its mixture of experts architecture <|file-1|>.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "NDFSRSZfwv"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-50209c401365",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " If you want,",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "LzI485bM9I"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-50209c401365",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " I can try searching for specific aspects of the architecture.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "WyGg1LbEhyM"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-50209c401365",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "bWmmqTA"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {
|
|
||||||
"file-1": "file-d7cee10212814cfcb75cc091eee11688"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,732 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_non_streaming_file_search[client_with_models-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536-llama_experts]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_90pCu8l9ITbz463ZJxhGGKm3",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_90pCu8l9ITbz463ZJxhGGKm3",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-36441599755, score: 2.933222791810999, attributes: {'filename': 'test_response_non_streaming_file_search.txt', 'document_id': 'file-36441599755', 'token_count': 10.0, 'metadata_token_count': 13.0} (cite as <|file-36441599755|>)\nLlama 4 Maverick has 128 experts\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "gdf1nbskI5D"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "yH24xFEJZV"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " L",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "mE56oH117DS"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "lama",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "kgYvtBrT5"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "praqAfi2KAS0"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "nagBg4qWQXjU"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Maver",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "wwiU6XX"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "ick",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "qps1zhi1CD"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " model",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "dTbwmrD"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " has",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "xLLmvyJtU"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "14AyBCKieDj3"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "OSOrGYaXay"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " experts",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "kdNe1"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " <",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "AK2Ovsh3fmr"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "XjqjvJ8NRd8I"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "file",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "1V1XXDCZq"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "-",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "woL7g3pClGRO"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "364",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "AKWcBEYH1I"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "415",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "T6sUmYYKri"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "997",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "h9dnjjetvU"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "55",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "DtrDSmmf9Em"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "hILbvog1fSsu"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ">.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "6G4alZVpYXB"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-53ee2f8e45e7",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ov65vHU"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
|
|
@ -1,732 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_non_streaming_file_search[openai_client-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536-llama_experts]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_9Ofp0Uepi3uOnEmuFtm9yvCU",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_9Ofp0Uepi3uOnEmuFtm9yvCU",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-78420035045, score: 2.933222791810999, attributes: {'filename': 'test_response_non_streaming_file_search.txt', 'document_id': 'file-78420035045', 'token_count': 10.0, 'metadata_token_count': 13.0} (cite as <|file-78420035045|>)\nLlama 4 Maverick has 128 experts\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "QzhfTGQcz2Y"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ztGuul9UaW"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " L",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "uCPEaiWfmc8"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "lama",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "7qmHfkDX0"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "bJSIIV3wPwKo"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "8fflv4fGUOdT"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Maver",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ucvCuSG"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "ick",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ODU4wvRcMz"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " model",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "TXvhUEg"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " has",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "NxEdB1FFe"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "To0DKP0o8pAy"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "94NBWtQ77u"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " experts",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "UeTRS"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " <",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ahkKeTs6M0w"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "RScHu5HBdZTL"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "file",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "PezNw4c0O"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "-",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "tLhBhXZUZja2"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "784",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "oQRG1NXwqb"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "200",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "j6wRdKbsWw"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "350",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "pMYI1M64oa"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "45",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "uCKpE8pkuId"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "seU4vjKd7351"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ">.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Nc7cNjASckH"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-635f9971c8d6",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Si5wTWN"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
|
|
@ -1,952 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_non_streaming_file_search[client_with_models-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536-llama_experts_pdf]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_Zb3UPWm2DOVVTce3d5Uo21FX",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_Zb3UPWm2DOVVTce3d5Uo21FX",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 2 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-433408948870, score: 1.4947232325305748, attributes: {'filename': 'llama_stack_and_models.pdf', 'document_id': 'file-433408948870', 'token_count': 98.0, 'metadata_token_count': 11.0} (cite as <|file-433408948870|>)\n, \nhardware\n \nvendors,\n \nand\n \nAI-focused\n \ncompanies)\n \nthat\n \noffer\n \ntailored\n \ninfrastructure,\n \nsoftware,\n \nand\n \nservices\n \nfor\n \ndeploying\n \nLlama\n \nmodels.\n \nLlama 4 Maverick \n Llama 4 Maverick is a Mixture-of-Experts (MoE) model with 17 billion active parameters and 128 experts. \n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[2] document_id: file-433408948870, score: 1.1417523389560924, attributes: {'filename': 'llama_stack_and_models.pdf', 'document_id': 'file-433408948870', 'token_count': 498.0, 'metadata_token_count': 11.0} (cite as <|file-433408948870|>)\nLlama Stack \nLlama Stack Overview \nLlama Stack standardizes the core building blocks that simplify AI application development. It codifies best \npractices\n \nacross\n \nthe\n \nLlama\n \necosystem.\n \nMore\n \nspecifically,\n \nit\n \nprovides\n \u25cf Unified API layer for Inference, RAG, Agents, Tools, Safety, Evals, and Telemetry. \u25cf Plugin architecture to support the rich ecosystem of different API implementations in various \nenvironments,\n \nincluding\n \nlocal\n \ndevelopment,\n \non-premises,\n \ncloud,\n \nand\n \nmobile.\n \u25cf Prepackaged verified distributions which offer a one-stop solution for developers to get started quickly \nand\n \nreliably\n \nin\n \nany\n \nenvironment.\n \u25cf Multiple developer interfaces like CLI and SDKs for Python, Typescript, iOS, and Android. \u25cf Standalone applications as examples for how to build production-grade AI applications with Llama \nStack.\n \nLlama Stack Benefits \n\u25cf Flexible Options: Developers can choose their preferred infrastructure without changing APIs and enjoy \nflexible\n \ndeployment\n \nchoices.\n \u25cf Consistent Experience: With its unified APIs, Llama Stack makes it easier to build, test, and deploy AI \napplications\n \nwith\n \nconsistent\n \napplication\n \nbehavior.\n \u25cf Robust Ecosystem: Llama Stack is already integrated with distribution partners (cloud providers, \nhardware\n \nvendors,\n \nand\n \nAI-focused\n \ncompanies)\n \nthat\n \noffer\n \ntailored\n \ninfrastructure,\n \nsoftware,\n \nand\n \nservices\n \nfor\n \ndeploying\n \nLlama\n \nmodels.\n \nLlama 4 Maverick \n Llama 4 Maverick is a Mixture-of-Experts (MoE) model with 17 billion active parameters and 128 experts. \n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "4vldG6YkUnH"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Owuk6298Jt"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " L",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "g4XU2hTVR2q"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "lama",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "pbWUdOzvM"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "sTpDXKM6wid9"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Qq4ldEngnEKb"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Maver",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "lyvYBJ1"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "ick",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "wZ8pJHnRyj"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " model",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Uc0VVs4"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " is",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "h2LiHP5Zya"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " a",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Ui2tMUnspP9"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Mi",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "OQ8U3TfAQ5"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "xture",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "tEi5FQSN"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "-of",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "r32ApRzrNn"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "-",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "LMZzm14tX1K2"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "Experts",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "qNMZhU"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " model",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "4E0x9s3"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " with",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "skEbeh6y"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "g2BPcqp7KGmC"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "keZA9CnayQ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " experts",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "gB3TI"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " <",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "oY3MyYrbm5j"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "VRMfQ0Tk9MoM"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "file",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "8QxInZNDV"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "-",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "gyseIIdKNXRr"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "433",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "8S1BFquq25"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "408",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "BIenlYLa9Q"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "948",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "aMTAIoJvPG"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "870",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "dogvhZPUMx"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "hBk7oUeljLua"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ">.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "5aKqsDiAWUi"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-6bc34054dd78",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "57W66rv"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
|
|
@ -1,501 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_basic_responses.py::test_response_streaming_incremental_content[openai_client-txt=openai/gpt-4o-image_input]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "what teams are playing in this image?"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "image_url",
|
|
||||||
"image_url": {
|
|
||||||
"url": "https://upload.wikimedia.org/wikipedia/commons/3/3b/LeBron_James_Layup_%28Cleveland_vs_Brooklyn_2018%29.jpg",
|
|
||||||
"detail": "auto"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "jx2meMFIeou"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "IxtQLh32qK"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " teams",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "cWRhodi"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " playing",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "8QGlu"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " in",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Sbz8WU2KJW"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " the",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ig6rdi6Hg"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " image",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "MI6mNN8"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " are",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "H4a0LXjN7"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " the",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "oR9liRCpC"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Cleveland",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "JG4"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Cavaliers",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "4mu"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " and",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "6HjPsPN9l"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " the",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "gjHK1qT7b"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Brooklyn",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "z8Lj"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Nets",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "6YvrqUqE"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ".",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "WmHOoLwyGJvl"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78574bdf4f6e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "tt9tTwV"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,501 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_basic_responses.py::test_response_streaming_basic[openai_client-txt=openai/gpt-4o-image_input]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "what teams are playing in this image?"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "image_url",
|
|
||||||
"image_url": {
|
|
||||||
"url": "https://upload.wikimedia.org/wikipedia/commons/3/3b/LeBron_James_Layup_%28Cleveland_vs_Brooklyn_2018%29.jpg",
|
|
||||||
"detail": "auto"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ZzFbLALuRp2"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "NhovFXHc2g"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " teams",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "IOZIH6m"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " playing",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "tWPQl"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " in",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "1sR9RyVIyc"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " the",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "IpFcep1o9"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " image",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "91FTKFB"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " are",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ggPTCwyTU"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " the",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ZaCPsQk22"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Cleveland",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "VIG"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Cavaliers",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "YfU"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " and",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Txa4ZK7pD"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " the",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "vyGE1u83L"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Brooklyn",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "m8Sc"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Nets",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "RxldBK3O"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ".",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "QLGMK6GMWhOl"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-78f9446cb248",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "nKEUcE0"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
|
|
@ -1,219 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_sequential_file_search[client_with_models-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_zS2WxgXWetjnlPt2MzH9Asrc",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_zS2WxgXWetjnlPt2MzH9Asrc",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-5217982280, score: 2.57802841833685, attributes: {'filename': 'test_sequential_file_search.txt', 'document_id': 'file-5217982280', 'token_count': 19.0, 'metadata_token_count': 11.0} (cite as <|file-5217982280|>)\nThe Llama 4 Maverick model has 128 experts in its mixture of experts architecture.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-813ac454f8df",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "kAlKUdypard"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-813ac454f8df",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The Llama ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "U9LsCIESSE"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-813ac454f8df",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4 Maverick model has ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "wwn6wHEfw0FY"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-813ac454f8df",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128 experts in its mixture of experts architecture <|file-5217982280|>.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "k3KlnqkWxH"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-813ac454f8df",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "m4ogAxG"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
|
|
@ -1,586 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_non_streaming_file_search[client_with_models-txt=openai/gpt-4o:emb=Nomic-v1.5:dim=768-llama_experts]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"stream_options": {
|
|
||||||
"include_usage": true
|
|
||||||
},
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_GHhSA4uy7xx4lAEYna2NMOtp",
|
|
||||||
"function": {
|
|
||||||
"arguments": "",
|
|
||||||
"name": "knowledge_search"
|
|
||||||
},
|
|
||||||
"type": "function"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "4Yk0"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "{\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "UhY"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "query",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "2"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\":\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "t"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "L",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "0zTB9"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "lama",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "bC"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " ",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "1mfjH"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "4",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "6Snqj"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " Maver",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "ick",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ziz"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " model",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " experts",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "WrpDf4z5mEecrL"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\"}",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Ixn"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "tool_calls",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "YMbk"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-818fcb5332bf",
|
|
||||||
"choices": [],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": {
|
|
||||||
"completion_tokens": 22,
|
|
||||||
"prompt_tokens": 74,
|
|
||||||
"total_tokens": 96,
|
|
||||||
"completion_tokens_details": {
|
|
||||||
"accepted_prediction_tokens": 0,
|
|
||||||
"audio_tokens": 0,
|
|
||||||
"reasoning_tokens": 0,
|
|
||||||
"rejected_prediction_tokens": 0
|
|
||||||
},
|
|
||||||
"prompt_tokens_details": {
|
|
||||||
"audio_tokens": 0,
|
|
||||||
"cached_tokens": 0
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"obfuscation": "kgTmCef21XI8vPd"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
|
|
@ -1,660 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_sequential_file_search[openai_client-txt=openai/gpt-4o:emb=Nomic-v1.5:dim=768]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"stream_options": {
|
|
||||||
"include_usage": true
|
|
||||||
},
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_UVmJRK8x8PZSXaGMP8YkWUTN",
|
|
||||||
"function": {
|
|
||||||
"arguments": "",
|
|
||||||
"name": "knowledge_search"
|
|
||||||
},
|
|
||||||
"type": "function"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "2QQF"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "{\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "qb0"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "query",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "D"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\":\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "x"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "L",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "WyxpJ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "lama",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "y7"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " ",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "BtFs2"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "4",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "yVe4p"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " Maver",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "ick",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "nDz"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " model",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " number",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "00QpgmKJqA9Gl4r"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " of",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "3tt"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " experts",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "yWmEn1CQ8ynDhi"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\"}",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "fHW"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "tool_calls",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "IPi9"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-82a37bb56954",
|
|
||||||
"choices": [],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": {
|
|
||||||
"completion_tokens": 24,
|
|
||||||
"prompt_tokens": 74,
|
|
||||||
"total_tokens": 98,
|
|
||||||
"completion_tokens_details": {
|
|
||||||
"accepted_prediction_tokens": 0,
|
|
||||||
"audio_tokens": 0,
|
|
||||||
"reasoning_tokens": 0,
|
|
||||||
"rejected_prediction_tokens": 0
|
|
||||||
},
|
|
||||||
"prompt_tokens_details": {
|
|
||||||
"audio_tokens": 0,
|
|
||||||
"cached_tokens": 0
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"obfuscation": "DaKdAb83VxEDByB"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,732 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_non_streaming_file_search[openai_client-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536-llama_experts]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_9Ofp0Uepi3uOnEmuFtm9yvCU",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_9Ofp0Uepi3uOnEmuFtm9yvCU",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-78420035045, score: 2.933222791810999, attributes: {'filename': 'test_response_non_streaming_file_search.txt', 'document_id': 'file-78420035045', 'token_count': 10.0, 'metadata_token_count': 13.0} (cite as <|file-78420035045|>)\nLlama 4 Maverick has 128 experts\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "NWZ0BEXzB6J"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "E4R1aOLL3s"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " L",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "T8ltqoKoXMD"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "lama",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "uTEdhPFNP"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "d2HP0HVIOvWx"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "XTylgyRc2ai4"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Maver",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "xmRLoAF"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "ick",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "rqm4uKcxGT"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " model",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "KxCIaUo"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " has",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "PWYfg9fFf"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "MujlEmcoZh1J"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "aW7iupFpAR"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " experts",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Pqd25"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " <",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "CvcBMfoEz4q"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "AtJPMCpuASDm"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "file",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "8YC4ABl4i"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "-",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "QGIaRfehxvrQ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "784",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "GGDLl0xSXY"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "200",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Or3vm1M0Qg"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "350",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "k6IueTnBk4"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "45",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "kYKBcqIRh9C"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "XXBIhgRjrxvk"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ">.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "k8peKCdL3Uu"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-831d92084691",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Ei9rSCg"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
|
|
@ -1,628 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_non_streaming_file_search[openai_client-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536-llama_experts]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_9Ofp0Uepi3uOnEmuFtm9yvCU",
|
|
||||||
"function": {
|
|
||||||
"arguments": "",
|
|
||||||
"name": "knowledge_search"
|
|
||||||
},
|
|
||||||
"type": "function"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "l"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "{\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "query",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "8lfw4PEKtiqauU"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\":\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "VrqWK5exl80Olg"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "L",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "7Q"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "lama",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "vlsRqL1CJL2I1Xi"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " ",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Tl"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "4",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "w2"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " Maver",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "BCnoB2AdGXOq4"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "ick",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " model",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "aRSuu0GKoxvZ8"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " number",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "0qG3zkrGp33G"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " of",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " experts",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "jHbyUFV7nGG"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\"}",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-835f83febec3",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "tool_calls",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "n"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
|
|
@ -1,732 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_non_streaming_file_search[client_with_models-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536-llama_experts]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_90pCu8l9ITbz463ZJxhGGKm3",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_90pCu8l9ITbz463ZJxhGGKm3",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-36441599755, score: 2.933222791810999, attributes: {'filename': 'test_response_non_streaming_file_search.txt', 'document_id': 'file-36441599755', 'token_count': 10.0, 'metadata_token_count': 13.0} (cite as <|file-36441599755|>)\nLlama 4 Maverick has 128 experts\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "wyIiYoU4LHI"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "J4rYeQnQVu"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " L",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "sKfGla5xDXL"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "lama",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "JWzp91j9S"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "AYsWDIQw9L6q"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "2i0suDCIlx1r"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Maver",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "lnh9nbL"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "ick",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "lcXMZnknmX"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " model",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "g4lTNPo"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " has",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Kmw1mqKDs"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "cf9tyYCKUiT3"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "SiVGLiI7Ik"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " experts",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "fqUm0"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " <",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "gEIUwbE0YvS"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "gPIDZy7t5h5s"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "file",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "eeYu4K2Zm"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "-",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "QmA7JzTnJlaV"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "364",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "cEUVexrhdF"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "415",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "JSp3rXxQIF"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "997",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "BFOlFqOdr6"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "55",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "sUKYQtNbTBD"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "NNhAYFmU7Khc"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ">.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "rLVyuxmQMj1"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-84f3ac4d8f92",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "mas7xaP"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,894 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_sequential_file_search[openai_client-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_aPe1vS1v5bIwPgl789D5bfmW",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_aPe1vS1v5bIwPgl789D5bfmW",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-690481987689, score: 2.5781234969335522, attributes: {'filename': 'test_sequential_file_search.txt', 'document_id': 'file-690481987689', 'token_count': 19.0, 'metadata_token_count': 11.0} (cite as <|file-690481987689|>)\nThe Llama 4 Maverick model has 128 experts in its mixture of experts architecture.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "KhtilIAAITf"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "The",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "vS4CAJ1U55"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " L",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "OQhivcLfqsM"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "lama",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "bveoYuGk2"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "W2q1wvJyym1h"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "4",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "3CoUWEpwuqYU"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " Maver",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "XK5ujhn"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "ick",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "rm6n6LHLH1"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " model",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "lXrD45w"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " has",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "CHAi4nh4K"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " ",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "6HN0Xr0FCfg9"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "128",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "qHy6i3F5HJ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " experts",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "eNcQJ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " in",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "uo7zoKk5HG"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " its",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "q731yiVw3"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " mixture",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "cDLQw"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " of",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "io4tjGlbjl"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " experts",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "IorgX"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " architecture",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " <",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "vUirxgg1qwk"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "0QTt1dnAGU94"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "file",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "AW6FRYc6e"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "-",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "MAOc1rqDQkZ1"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "690",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "SeC1fbGEQy"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "481",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "exL50e4eWQ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "987",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "6hNuQmV8ZM"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "689",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "GYlxiBDcgz"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "|",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "9lo8HMCcfTgh"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ">.",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "0jNOK3MwRpD"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8574e8f6c619",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "L6N4jE1"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,629 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_sequential_file_search[client_with_models-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_zS2WxgXWetjnlPt2MzH9Asrc",
|
|
||||||
"function": {
|
|
||||||
"arguments": "",
|
|
||||||
"name": "knowledge_search"
|
|
||||||
},
|
|
||||||
"type": "function"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "u"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "{\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "query",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "RFdKkejzJ9k94o"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\":\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Hb81GJqWa4o3xK"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "L",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "1F"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "lama",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "5EIhJTfkplhcF8b"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " ",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "hy"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "4",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Bh"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " Maver",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "qSHaXAuZaOsnR"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "ick",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " model",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "oeMApPOcLgemX"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " number",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "iT8zweOYBMgE"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " of",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " experts",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "4QR8kd8nG1V"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\"}",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-89162a717e49",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "tool_calls",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "S"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,628 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_non_streaming_file_search[openai_client-txt=openai/gpt-4o:emb=openai/text-embedding-3-small:dim=1536-llama_experts_pdf]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_zKJ7WgvCO3tx6yB0We1qI0d8",
|
|
||||||
"function": {
|
|
||||||
"arguments": "",
|
|
||||||
"name": "knowledge_search"
|
|
||||||
},
|
|
||||||
"type": "function"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "e"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "{\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "query",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "AQbSMPBlHYbeNW"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\":\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Ip57OLT1m3vySF"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "L",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "UF"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "lama",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "EfGxJzeAnLoSuN0"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " ",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "K0"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "4",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "9h"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " Maver",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "NRXe9b5CkVKr7"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "ick",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " model",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "nDY3nEBTiRE7O"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " number",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "aTegY6FIeo6f"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " of",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " experts",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "jiiidmHuokM"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\"}",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-897340011499",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "tool_calls",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "y"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,631 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_sequential_file_search[openai_client-txt=openai/gpt-4o:emb=Nomic-v1.5:dim=768]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_UVmJRK8x8PZSXaGMP8YkWUTN",
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"arguments": "{\"query\":\"Llama 4 Maverick model number of experts\"}"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "tool",
|
|
||||||
"tool_call_id": "call_UVmJRK8x8PZSXaGMP8YkWUTN",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "knowledge_search tool found 1 chunks:\nBEGIN of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "[1] document_id: file-753491389399, score: 0.1388247736002883, attributes: {'filename': 'test_sequential_file_search.txt', 'document_id': 'file-753491389399', 'token_count': 19.0, 'metadata_token_count': 11.0} (cite as <|file-753491389399|>)\nThe Llama 4 Maverick model has 128 experts in its mixture of experts architecture.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "END of knowledge_search tool results.\n"
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "The above results were retrieved to help answer the user's query: \"Llama 4 Maverick model number of experts\". Use them as supporting information only in answering this query. Cite sources immediately at the end of sentences before punctuation, using `<|file-id|>` format (e.g., 'This is a fact <|file-Cn3MSNn72ENTiiq11Qda4A|>.'). Do not add extra punctuation. Use only the file IDs provided (do not invent new ones).\n"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "The Llama 4 Maverick model has 128 experts in its mixture of experts architecture <|file-753491389399|>."
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "Can you tell me more about the architecture?"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"stream_options": {
|
|
||||||
"include_usage": true
|
|
||||||
},
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_5D3edO8yoUmeC523679kcOAC",
|
|
||||||
"function": {
|
|
||||||
"arguments": "",
|
|
||||||
"name": "knowledge_search"
|
|
||||||
},
|
|
||||||
"type": "function"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "LuVF"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "{\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "bOQ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "query",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "r"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\":\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "w"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "L",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "2VvL8"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "lama",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "hC"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " ",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "h0ec0"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "4",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "TMpEz"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " Maver",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "ick",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "sy2"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " model",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " architecture",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Z5q4wUlBq"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\"}",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "mkQ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "tool_calls",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Bd3u"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-8ce76cb00986",
|
|
||||||
"choices": [],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": {
|
|
||||||
"completion_tokens": 22,
|
|
||||||
"prompt_tokens": 377,
|
|
||||||
"total_tokens": 399,
|
|
||||||
"completion_tokens_details": {
|
|
||||||
"accepted_prediction_tokens": 0,
|
|
||||||
"audio_tokens": 0,
|
|
||||||
"reasoning_tokens": 0,
|
|
||||||
"rejected_prediction_tokens": 0
|
|
||||||
},
|
|
||||||
"prompt_tokens_details": {
|
|
||||||
"audio_tokens": 0,
|
|
||||||
"cached_tokens": 0
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"obfuscation": "l98LrzJRFZh5w"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
File diff suppressed because it is too large
Load diff
|
|
@ -1,660 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_non_streaming_file_search_empty_vector_store[client_with_models-txt=openai/gpt-4o:emb=Nomic-v1.5:dim=768]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"stream_options": {
|
|
||||||
"include_usage": true
|
|
||||||
},
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_n64EzCBu9K9VmDVOpVCOz92n",
|
|
||||||
"function": {
|
|
||||||
"arguments": "",
|
|
||||||
"name": "knowledge_search"
|
|
||||||
},
|
|
||||||
"type": "function"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Rt54"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "{\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "lpc"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "query",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "t"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\":\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "i"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "L",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "NvQV5"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "lama",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "i9"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " ",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "yPQZZ"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "4",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "7YPFx"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " Maver",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "ick",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "IQW"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " model",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " number",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "6sEFMVqmchtz5we"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " of",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "96M"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " experts",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "luIDYss35eaDLi"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\"}",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Uyi"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "tool_calls",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "ZNB3"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9303128e4af5",
|
|
||||||
"choices": [],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": {
|
|
||||||
"completion_tokens": 24,
|
|
||||||
"prompt_tokens": 74,
|
|
||||||
"total_tokens": 98,
|
|
||||||
"completion_tokens_details": {
|
|
||||||
"accepted_prediction_tokens": 0,
|
|
||||||
"audio_tokens": 0,
|
|
||||||
"reasoning_tokens": 0,
|
|
||||||
"rejected_prediction_tokens": 0
|
|
||||||
},
|
|
||||||
"prompt_tokens_details": {
|
|
||||||
"audio_tokens": 0,
|
|
||||||
"cached_tokens": 0
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"obfuscation": "rhvTuspTMkLi3bP"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
|
|
@ -1,428 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_basic_responses.py::test_response_non_streaming_basic[client_with_models-txt=openai/gpt-4o-image_input]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "text",
|
|
||||||
"text": "what teams are playing in this image?"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": [
|
|
||||||
{
|
|
||||||
"type": "image_url",
|
|
||||||
"image_url": {
|
|
||||||
"url": "https://upload.wikimedia.org/wikipedia/commons/3/3b/LeBron_James_Layup_%28Cleveland_vs_Brooklyn_2018%29.jpg",
|
|
||||||
"detail": "auto"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "assistant",
|
|
||||||
"content": "The image shows players from the Cleveland Cavaliers and the Brooklyn Nets."
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "Repeat your previous response in all caps."
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-931f6a8f837e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "QVWnkuuRUPP"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-931f6a8f837e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "I",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "KjsXQRtBor2q"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-931f6a8f837e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "'M",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "pr2wWaXNNML"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-931f6a8f837e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " S",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "0rGsFFsnXk6"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-931f6a8f837e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "OR",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "eWlyAPQfEgF"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-931f6a8f837e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "RY",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "gQXxn5D4KTU"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-931f6a8f837e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ",",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "P4NQc1DGkRrm"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-931f6a8f837e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " I",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "1KN3fhwnA0y"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-931f6a8f837e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " CAN",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "BkmSTez32"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-931f6a8f837e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": "'T",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "431BAEIVWML"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-931f6a8f837e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " DO",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "004e5hT90E"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-931f6a8f837e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": " THAT",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Ebm7VpV9"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-931f6a8f837e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": ".",
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "49bTEVwArF8u"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-931f6a8f837e",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "stop",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_cbf1785567",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "W2PWfvh"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
@ -1,660 +0,0 @@
|
||||||
{
|
|
||||||
"test_id": "tests/integration/responses/test_tool_responses.py::test_response_non_streaming_file_search[client_with_models-txt=openai/gpt-4o:emb=Nomic-v1.5:dim=768-llama_experts_pdf]",
|
|
||||||
"request": {
|
|
||||||
"method": "POST",
|
|
||||||
"url": "https://api.openai.com/v1/v1/chat/completions",
|
|
||||||
"headers": {},
|
|
||||||
"body": {
|
|
||||||
"model": "gpt-4o",
|
|
||||||
"messages": [
|
|
||||||
{
|
|
||||||
"role": "user",
|
|
||||||
"content": "How many experts does the Llama 4 Maverick model have?"
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"stream": true,
|
|
||||||
"stream_options": {
|
|
||||||
"include_usage": true
|
|
||||||
},
|
|
||||||
"tools": [
|
|
||||||
{
|
|
||||||
"type": "function",
|
|
||||||
"function": {
|
|
||||||
"name": "knowledge_search",
|
|
||||||
"description": "Search for information in a database.",
|
|
||||||
"parameters": {
|
|
||||||
"type": "object",
|
|
||||||
"properties": {
|
|
||||||
"query": {
|
|
||||||
"type": "string",
|
|
||||||
"description": "The query to search for. Can be a natural language sentence or keywords."
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"required": [
|
|
||||||
"query"
|
|
||||||
]
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"endpoint": "/v1/chat/completions",
|
|
||||||
"model": "gpt-4o"
|
|
||||||
},
|
|
||||||
"response": {
|
|
||||||
"body": [
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": "assistant",
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": "call_sAUKkfhm8BVYy8iVEtPfbhJq",
|
|
||||||
"function": {
|
|
||||||
"arguments": "",
|
|
||||||
"name": "knowledge_search"
|
|
||||||
},
|
|
||||||
"type": "function"
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "B7Ns"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "{\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "kfp"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "query",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "l"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\":\"",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Q"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "L",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Vsn20"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "lama",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Pw"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " ",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "vNYLO"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "4",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "K8P0K"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " Maver",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "ick",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "nIr"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " model",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": ""
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " number",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "iVjO3YVTkeyUd24"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " of",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "Puk"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": " experts",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "05i8L2SORboLWT"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": [
|
|
||||||
{
|
|
||||||
"index": 0,
|
|
||||||
"id": null,
|
|
||||||
"function": {
|
|
||||||
"arguments": "\"}",
|
|
||||||
"name": null
|
|
||||||
},
|
|
||||||
"type": null
|
|
||||||
}
|
|
||||||
]
|
|
||||||
},
|
|
||||||
"finish_reason": null,
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "4Mg"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [
|
|
||||||
{
|
|
||||||
"delta": {
|
|
||||||
"content": null,
|
|
||||||
"function_call": null,
|
|
||||||
"refusal": null,
|
|
||||||
"role": null,
|
|
||||||
"tool_calls": null
|
|
||||||
},
|
|
||||||
"finish_reason": "tool_calls",
|
|
||||||
"index": 0,
|
|
||||||
"logprobs": null
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": null,
|
|
||||||
"obfuscation": "FkLE"
|
|
||||||
}
|
|
||||||
},
|
|
||||||
{
|
|
||||||
"__type__": "openai.types.chat.chat_completion_chunk.ChatCompletionChunk",
|
|
||||||
"__data__": {
|
|
||||||
"id": "rec-9bab7e0eaff0",
|
|
||||||
"choices": [],
|
|
||||||
"created": 0,
|
|
||||||
"model": "gpt-4o-2024-08-06",
|
|
||||||
"object": "chat.completion.chunk",
|
|
||||||
"service_tier": "default",
|
|
||||||
"system_fingerprint": "fp_f64f290af2",
|
|
||||||
"usage": {
|
|
||||||
"completion_tokens": 24,
|
|
||||||
"prompt_tokens": 74,
|
|
||||||
"total_tokens": 98,
|
|
||||||
"completion_tokens_details": {
|
|
||||||
"accepted_prediction_tokens": 0,
|
|
||||||
"audio_tokens": 0,
|
|
||||||
"reasoning_tokens": 0,
|
|
||||||
"rejected_prediction_tokens": 0
|
|
||||||
},
|
|
||||||
"prompt_tokens_details": {
|
|
||||||
"audio_tokens": 0,
|
|
||||||
"cached_tokens": 0
|
|
||||||
}
|
|
||||||
},
|
|
||||||
"obfuscation": "mIVokU4CENqJeDG"
|
|
||||||
}
|
|
||||||
}
|
|
||||||
],
|
|
||||||
"is_streaming": true
|
|
||||||
},
|
|
||||||
"id_normalization_mapping": {}
|
|
||||||
}
|
|
||||||
Some files were not shown because too many files have changed in this diff Show more
Loading…
Add table
Add a link
Reference in a new issue