mirror of
https://github.com/meta-llama/llama-stack.git
synced 2025-07-29 15:23:51 +00:00
memory banks
This commit is contained in:
Ashwin Bharambe
parent
6fb69efbe5
commit
ee86f2c75f
4 changed files with 619 additions and 32 deletions
|
|
@ -58,16 +58,25 @@ class SafetyFilteringStep(ExecutionStepBase):
|
||||||
violation: Optional[SafetyViolation] = None
|
violation: Optional[SafetyViolation] = None
|
||||||
|
|
||||||
|
|
||||||
|
@json_schema_type
|
||||||
@dataclass
|
@dataclass
|
||||||
class IndexedMemoryDocument:
|
class MemoryBank:
|
||||||
index_id: str
|
uuid: str
|
||||||
content: str
|
name: str
|
||||||
|
|
||||||
|
|
||||||
|
@dataclass
|
||||||
|
class MemoryBankDocument:
|
||||||
|
uuid: str
|
||||||
|
content: bytes
|
||||||
|
metadata: Dict[str, Any]
|
||||||
|
mime_type: str
|
||||||
|
|
||||||
|
|
||||||
@dataclass
|
@dataclass
|
||||||
class MemoryRetrievalStep(ExecutionStepBase):
|
class MemoryRetrievalStep(ExecutionStepBase):
|
||||||
step_type = ExecutionStepType.memory_retrieval
|
step_type = ExecutionStepType.memory_retrieval
|
||||||
documents: List[IndexedMemoryDocument]
|
documents: List[MemoryBankDocument]
|
||||||
scores: List[float]
|
scores: List[float]
|
||||||
|
|
||||||
|
|
||||||
|
|
|
||||||
|
|
@ -7,7 +7,8 @@ import yaml
|
||||||
from agentic_system_types import (
|
from agentic_system_types import (
|
||||||
AgenticSystemTurn,
|
AgenticSystemTurn,
|
||||||
ExecutionStepType,
|
ExecutionStepType,
|
||||||
IndexedMemoryDocument,
|
MemoryBank,
|
||||||
|
MemoryBankDocument,
|
||||||
SafetyViolation,
|
SafetyViolation,
|
||||||
)
|
)
|
||||||
|
|
||||||
|
|
@ -172,6 +173,8 @@ class BatchInference(Protocol):
|
||||||
|
|
||||||
@dataclass
|
@dataclass
|
||||||
class AgenticSystemCreateRequest:
|
class AgenticSystemCreateRequest:
|
||||||
|
uuid: str
|
||||||
|
|
||||||
instructions: str
|
instructions: str
|
||||||
model: InstructModel
|
model: InstructModel
|
||||||
|
|
||||||
|
|
@ -182,6 +185,8 @@ class AgenticSystemCreateRequest:
|
||||||
# execute themselves.
|
# execute themselves.
|
||||||
executable_tools: Set[str] = field(default_factory=set)
|
executable_tools: Set[str] = field(default_factory=set)
|
||||||
|
|
||||||
|
memory_bank_uuids: List[str] = field(default_factory=list)
|
||||||
|
|
||||||
input_shields: List[ShieldConfig] = field(default_factory=list)
|
input_shields: List[ShieldConfig] = field(default_factory=list)
|
||||||
output_shields: List[ShieldConfig] = field(default_factory=list)
|
output_shields: List[ShieldConfig] = field(default_factory=list)
|
||||||
|
|
||||||
|
|
@ -189,13 +194,13 @@ class AgenticSystemCreateRequest:
|
||||||
@json_schema_type
|
@json_schema_type
|
||||||
@dataclass
|
@dataclass
|
||||||
class AgenticSystemCreateResponse:
|
class AgenticSystemCreateResponse:
|
||||||
agent_id: str
|
agent_uuid: str
|
||||||
|
|
||||||
|
|
||||||
@json_schema_type
|
@json_schema_type
|
||||||
@dataclass
|
@dataclass
|
||||||
class AgenticSystemExecuteRequest:
|
class AgenticSystemExecuteRequest:
|
||||||
agent_id: str
|
agent_uuid: str
|
||||||
messages: List[Message]
|
messages: List[Message]
|
||||||
turn_history: List[AgenticSystemTurn] = None
|
turn_history: List[AgenticSystemTurn] = None
|
||||||
stream: bool = False
|
stream: bool = False
|
||||||
|
|
@ -227,11 +232,12 @@ class AgenticSystemExecuteResponseStreamChunk:
|
||||||
step_uuid: str
|
step_uuid: str
|
||||||
step_type: ExecutionStepType
|
step_type: ExecutionStepType
|
||||||
|
|
||||||
|
# TODO(ashwin): maybe add more structure here and do this as a proper tagged union
|
||||||
violation: Optional[SafetyViolation] = None
|
violation: Optional[SafetyViolation] = None
|
||||||
tool_call: Optional[ToolCall] = None
|
tool_call: Optional[ToolCall] = None
|
||||||
tool_response_delta: Optional[ToolResponse] = None
|
tool_response_delta: Optional[ToolResponse] = None
|
||||||
response_text_delta: Optional[str] = None
|
response_text_delta: Optional[str] = None
|
||||||
retrieved_document: Optional[IndexedMemoryDocument] = None
|
retrieved_document: Optional[MemoryBankDocument] = None
|
||||||
|
|
||||||
stop_reason: Optional[StopReason] = None
|
stop_reason: Optional[StopReason] = None
|
||||||
|
|
||||||
|
|
@ -259,6 +265,41 @@ class AgenticSystem(Protocol):
|
||||||
) -> None: ...
|
) -> None: ...
|
||||||
|
|
||||||
|
|
||||||
|
class MemoryBanks(Protocol):
|
||||||
|
@webmethod(route="/memory_banks/create")
|
||||||
|
def create_memory_bank(
|
||||||
|
self,
|
||||||
|
bank_uuid: str,
|
||||||
|
bank_name: str,
|
||||||
|
documents: List[MemoryBankDocument],
|
||||||
|
) -> None: ...
|
||||||
|
|
||||||
|
@webmethod(route="/memory_banks/get")
|
||||||
|
def get_memory_banks(
|
||||||
|
self,
|
||||||
|
) -> List[MemoryBank]: ...
|
||||||
|
|
||||||
|
@webmethod(route="/memory_banks/insert")
|
||||||
|
def post_insert_memory_documents(
|
||||||
|
self,
|
||||||
|
bank_uuid: str,
|
||||||
|
documents: List[MemoryBankDocument],
|
||||||
|
) -> None: ...
|
||||||
|
|
||||||
|
@webmethod(route="/memory_banks/delete")
|
||||||
|
def post_delete_memory_documents(
|
||||||
|
self,
|
||||||
|
bank_uuid: str,
|
||||||
|
document_uuids: List[str],
|
||||||
|
) -> None: ...
|
||||||
|
|
||||||
|
@webmethod(route="/memory_banks/drop")
|
||||||
|
def remove_memory_bank(
|
||||||
|
self,
|
||||||
|
bank_uuid: str,
|
||||||
|
) -> None: ...
|
||||||
|
|
||||||
|
|
||||||
@dataclass
|
@dataclass
|
||||||
class KPromptGenerations:
|
class KPromptGenerations:
|
||||||
prompt: Message
|
prompt: Message
|
||||||
|
|
@ -456,6 +497,7 @@ class LlamaStackEndpoints(
|
||||||
SyntheticDataGeneration,
|
SyntheticDataGeneration,
|
||||||
Datasets,
|
Datasets,
|
||||||
Finetuning,
|
Finetuning,
|
||||||
|
MemoryBanks,
|
||||||
): ...
|
): ...
|
||||||
|
|
||||||
|
|
||||||
|
|
|
||||||
|
|
@ -119,6 +119,93 @@
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
},
|
},
|
||||||
|
"/memory_banks/create": {
|
||||||
|
"post": {
|
||||||
|
"responses": {
|
||||||
|
"200": {
|
||||||
|
"description": "OK"
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"tags": [
|
||||||
|
"MemoryBanks"
|
||||||
|
],
|
||||||
|
"parameters": [
|
||||||
|
{
|
||||||
|
"name": "bank_uuid",
|
||||||
|
"in": "query",
|
||||||
|
"required": true,
|
||||||
|
"schema": {
|
||||||
|
"type": "string"
|
||||||
|
}
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"name": "bank_name",
|
||||||
|
"in": "query",
|
||||||
|
"required": true,
|
||||||
|
"schema": {
|
||||||
|
"type": "string"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
],
|
||||||
|
"requestBody": {
|
||||||
|
"content": {
|
||||||
|
"application/json": {
|
||||||
|
"schema": {
|
||||||
|
"type": "array",
|
||||||
|
"items": {
|
||||||
|
"type": "object",
|
||||||
|
"properties": {
|
||||||
|
"uuid": {
|
||||||
|
"type": "string"
|
||||||
|
},
|
||||||
|
"content": {
|
||||||
|
"type": "string",
|
||||||
|
"contentEncoding": "base64"
|
||||||
|
},
|
||||||
|
"metadata": {
|
||||||
|
"type": "object",
|
||||||
|
"additionalProperties": {
|
||||||
|
"oneOf": [
|
||||||
|
{
|
||||||
|
"type": "null"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "boolean"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "number"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "string"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "array"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "object"
|
||||||
|
}
|
||||||
|
]
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"mime_type": {
|
||||||
|
"type": "string"
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"additionalProperties": false,
|
||||||
|
"required": [
|
||||||
|
"uuid",
|
||||||
|
"content",
|
||||||
|
"metadata",
|
||||||
|
"mime_type"
|
||||||
|
]
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"required": true
|
||||||
|
}
|
||||||
|
}
|
||||||
|
},
|
||||||
"/agentic_system/delete": {
|
"/agentic_system/delete": {
|
||||||
"delete": {
|
"delete": {
|
||||||
"responses": {
|
"responses": {
|
||||||
|
|
@ -192,6 +279,26 @@
|
||||||
]
|
]
|
||||||
}
|
}
|
||||||
},
|
},
|
||||||
|
"/memory_banks/get": {
|
||||||
|
"get": {
|
||||||
|
"responses": {
|
||||||
|
"200": {
|
||||||
|
"description": "OK",
|
||||||
|
"content": {
|
||||||
|
"application/jsonl": {
|
||||||
|
"schema": {
|
||||||
|
"$ref": "#/components/schemas/MemoryBank"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"tags": [
|
||||||
|
"MemoryBanks"
|
||||||
|
],
|
||||||
|
"parameters": []
|
||||||
|
}
|
||||||
|
},
|
||||||
"/finetuning/job/artifacts": {
|
"/finetuning/job/artifacts": {
|
||||||
"get": {
|
"get": {
|
||||||
"responses": {
|
"responses": {
|
||||||
|
|
@ -353,6 +460,41 @@
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
},
|
},
|
||||||
|
"/memory_banks/delete": {
|
||||||
|
"post": {
|
||||||
|
"responses": {
|
||||||
|
"200": {
|
||||||
|
"description": "OK"
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"tags": [
|
||||||
|
"MemoryBanks"
|
||||||
|
],
|
||||||
|
"parameters": [
|
||||||
|
{
|
||||||
|
"name": "bank_uuid",
|
||||||
|
"in": "query",
|
||||||
|
"required": true,
|
||||||
|
"schema": {
|
||||||
|
"type": "string"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
],
|
||||||
|
"requestBody": {
|
||||||
|
"content": {
|
||||||
|
"application/json": {
|
||||||
|
"schema": {
|
||||||
|
"type": "array",
|
||||||
|
"items": {
|
||||||
|
"type": "string"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"required": true
|
||||||
|
}
|
||||||
|
}
|
||||||
|
},
|
||||||
"/synthetic_data_generation/generate": {
|
"/synthetic_data_generation/generate": {
|
||||||
"post": {
|
"post": {
|
||||||
"responses": {
|
"responses": {
|
||||||
|
|
@ -383,6 +525,85 @@
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
},
|
},
|
||||||
|
"/memory_banks/insert": {
|
||||||
|
"post": {
|
||||||
|
"responses": {
|
||||||
|
"200": {
|
||||||
|
"description": "OK"
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"tags": [
|
||||||
|
"MemoryBanks"
|
||||||
|
],
|
||||||
|
"parameters": [
|
||||||
|
{
|
||||||
|
"name": "bank_uuid",
|
||||||
|
"in": "query",
|
||||||
|
"required": true,
|
||||||
|
"schema": {
|
||||||
|
"type": "string"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
],
|
||||||
|
"requestBody": {
|
||||||
|
"content": {
|
||||||
|
"application/json": {
|
||||||
|
"schema": {
|
||||||
|
"type": "array",
|
||||||
|
"items": {
|
||||||
|
"type": "object",
|
||||||
|
"properties": {
|
||||||
|
"uuid": {
|
||||||
|
"type": "string"
|
||||||
|
},
|
||||||
|
"content": {
|
||||||
|
"type": "string",
|
||||||
|
"contentEncoding": "base64"
|
||||||
|
},
|
||||||
|
"metadata": {
|
||||||
|
"type": "object",
|
||||||
|
"additionalProperties": {
|
||||||
|
"oneOf": [
|
||||||
|
{
|
||||||
|
"type": "null"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "boolean"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "number"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "string"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "array"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "object"
|
||||||
|
}
|
||||||
|
]
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"mime_type": {
|
||||||
|
"type": "string"
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"additionalProperties": false,
|
||||||
|
"required": [
|
||||||
|
"uuid",
|
||||||
|
"content",
|
||||||
|
"metadata",
|
||||||
|
"mime_type"
|
||||||
|
]
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"required": true
|
||||||
|
}
|
||||||
|
}
|
||||||
|
},
|
||||||
"/reward_scoring/score": {
|
"/reward_scoring/score": {
|
||||||
"post": {
|
"post": {
|
||||||
"responses": {
|
"responses": {
|
||||||
|
|
@ -435,6 +656,28 @@
|
||||||
"required": true
|
"required": true
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
},
|
||||||
|
"/memory_banks/drop": {
|
||||||
|
"delete": {
|
||||||
|
"responses": {
|
||||||
|
"200": {
|
||||||
|
"description": "OK"
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"tags": [
|
||||||
|
"MemoryBanks"
|
||||||
|
],
|
||||||
|
"parameters": [
|
||||||
|
{
|
||||||
|
"name": "bank_uuid",
|
||||||
|
"in": "query",
|
||||||
|
"required": true,
|
||||||
|
"schema": {
|
||||||
|
"type": "string"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
]
|
||||||
|
}
|
||||||
}
|
}
|
||||||
},
|
},
|
||||||
"jsonSchemaDialect": "https://json-schema.org/draft/2020-12/schema",
|
"jsonSchemaDialect": "https://json-schema.org/draft/2020-12/schema",
|
||||||
|
|
@ -487,6 +730,9 @@
|
||||||
"AgenticSystemCreateRequest": {
|
"AgenticSystemCreateRequest": {
|
||||||
"type": "object",
|
"type": "object",
|
||||||
"properties": {
|
"properties": {
|
||||||
|
"uuid": {
|
||||||
|
"type": "string"
|
||||||
|
},
|
||||||
"instructions": {
|
"instructions": {
|
||||||
"type": "string"
|
"type": "string"
|
||||||
},
|
},
|
||||||
|
|
@ -571,6 +817,12 @@
|
||||||
},
|
},
|
||||||
"uniqueItems": true
|
"uniqueItems": true
|
||||||
},
|
},
|
||||||
|
"memory_bank_uuids": {
|
||||||
|
"type": "array",
|
||||||
|
"items": {
|
||||||
|
"type": "string"
|
||||||
|
}
|
||||||
|
},
|
||||||
"input_shields": {
|
"input_shields": {
|
||||||
"type": "array",
|
"type": "array",
|
||||||
"items": {
|
"items": {
|
||||||
|
|
@ -586,10 +838,12 @@
|
||||||
},
|
},
|
||||||
"additionalProperties": false,
|
"additionalProperties": false,
|
||||||
"required": [
|
"required": [
|
||||||
|
"uuid",
|
||||||
"instructions",
|
"instructions",
|
||||||
"model",
|
"model",
|
||||||
"available_tools",
|
"available_tools",
|
||||||
"executable_tools",
|
"executable_tools",
|
||||||
|
"memory_bank_uuids",
|
||||||
"input_shields",
|
"input_shields",
|
||||||
"output_shields"
|
"output_shields"
|
||||||
]
|
]
|
||||||
|
|
@ -597,19 +851,19 @@
|
||||||
"AgenticSystemCreateResponse": {
|
"AgenticSystemCreateResponse": {
|
||||||
"type": "object",
|
"type": "object",
|
||||||
"properties": {
|
"properties": {
|
||||||
"agent_id": {
|
"agent_uuid": {
|
||||||
"type": "string"
|
"type": "string"
|
||||||
}
|
}
|
||||||
},
|
},
|
||||||
"additionalProperties": false,
|
"additionalProperties": false,
|
||||||
"required": [
|
"required": [
|
||||||
"agent_id"
|
"agent_uuid"
|
||||||
]
|
]
|
||||||
},
|
},
|
||||||
"AgenticSystemExecuteRequest": {
|
"AgenticSystemExecuteRequest": {
|
||||||
"type": "object",
|
"type": "object",
|
||||||
"properties": {
|
"properties": {
|
||||||
"agent_id": {
|
"agent_uuid": {
|
||||||
"type": "string"
|
"type": "string"
|
||||||
},
|
},
|
||||||
"messages": {
|
"messages": {
|
||||||
|
|
@ -631,7 +885,7 @@
|
||||||
},
|
},
|
||||||
"additionalProperties": false,
|
"additionalProperties": false,
|
||||||
"required": [
|
"required": [
|
||||||
"agent_id",
|
"agent_uuid",
|
||||||
"messages",
|
"messages",
|
||||||
"turn_history",
|
"turn_history",
|
||||||
"stream"
|
"stream"
|
||||||
|
|
@ -875,17 +1129,48 @@
|
||||||
"items": {
|
"items": {
|
||||||
"type": "object",
|
"type": "object",
|
||||||
"properties": {
|
"properties": {
|
||||||
"index_id": {
|
"uuid": {
|
||||||
"type": "string"
|
"type": "string"
|
||||||
},
|
},
|
||||||
"content": {
|
"content": {
|
||||||
|
"type": "string",
|
||||||
|
"contentEncoding": "base64"
|
||||||
|
},
|
||||||
|
"metadata": {
|
||||||
|
"type": "object",
|
||||||
|
"additionalProperties": {
|
||||||
|
"oneOf": [
|
||||||
|
{
|
||||||
|
"type": "null"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "boolean"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "number"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "string"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "array"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "object"
|
||||||
|
}
|
||||||
|
]
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"mime_type": {
|
||||||
"type": "string"
|
"type": "string"
|
||||||
}
|
}
|
||||||
},
|
},
|
||||||
"additionalProperties": false,
|
"additionalProperties": false,
|
||||||
"required": [
|
"required": [
|
||||||
"index_id",
|
"uuid",
|
||||||
"content"
|
"content",
|
||||||
|
"metadata",
|
||||||
|
"mime_type"
|
||||||
]
|
]
|
||||||
}
|
}
|
||||||
},
|
},
|
||||||
|
|
@ -1204,17 +1489,48 @@
|
||||||
"retrieved_document": {
|
"retrieved_document": {
|
||||||
"type": "object",
|
"type": "object",
|
||||||
"properties": {
|
"properties": {
|
||||||
"index_id": {
|
"uuid": {
|
||||||
"type": "string"
|
"type": "string"
|
||||||
},
|
},
|
||||||
"content": {
|
"content": {
|
||||||
|
"type": "string",
|
||||||
|
"contentEncoding": "base64"
|
||||||
|
},
|
||||||
|
"metadata": {
|
||||||
|
"type": "object",
|
||||||
|
"additionalProperties": {
|
||||||
|
"oneOf": [
|
||||||
|
{
|
||||||
|
"type": "null"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "boolean"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "number"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "string"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "array"
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"type": "object"
|
||||||
|
}
|
||||||
|
]
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"mime_type": {
|
||||||
"type": "string"
|
"type": "string"
|
||||||
}
|
}
|
||||||
},
|
},
|
||||||
"additionalProperties": false,
|
"additionalProperties": false,
|
||||||
"required": [
|
"required": [
|
||||||
"index_id",
|
"uuid",
|
||||||
"content"
|
"content",
|
||||||
|
"metadata",
|
||||||
|
"mime_type"
|
||||||
]
|
]
|
||||||
},
|
},
|
||||||
"stop_reason": {
|
"stop_reason": {
|
||||||
|
|
@ -1305,6 +1621,22 @@
|
||||||
],
|
],
|
||||||
"title": "Dataset to be used for training or evaluating language models."
|
"title": "Dataset to be used for training or evaluating language models."
|
||||||
},
|
},
|
||||||
|
"MemoryBank": {
|
||||||
|
"type": "object",
|
||||||
|
"properties": {
|
||||||
|
"uuid": {
|
||||||
|
"type": "string"
|
||||||
|
},
|
||||||
|
"name": {
|
||||||
|
"type": "string"
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"additionalProperties": false,
|
||||||
|
"required": [
|
||||||
|
"uuid",
|
||||||
|
"name"
|
||||||
|
]
|
||||||
|
},
|
||||||
"FinetuningJobArtifactsResponse": {
|
"FinetuningJobArtifactsResponse": {
|
||||||
"type": "object",
|
"type": "object",
|
||||||
"properties": {
|
"properties": {
|
||||||
|
|
@ -2406,20 +2738,23 @@
|
||||||
],
|
],
|
||||||
"tags": [
|
"tags": [
|
||||||
{
|
{
|
||||||
"name": "SyntheticDataGeneration"
|
"name": "Inference"
|
||||||
},
|
},
|
||||||
{
|
{
|
||||||
"name": "Datasets"
|
"name": "MemoryBanks"
|
||||||
},
|
},
|
||||||
{
|
{
|
||||||
"name": "AgenticSystem"
|
"name": "AgenticSystem"
|
||||||
},
|
},
|
||||||
{
|
{
|
||||||
"name": "Inference"
|
"name": "SyntheticDataGeneration"
|
||||||
},
|
},
|
||||||
{
|
{
|
||||||
"name": "Finetuning"
|
"name": "Finetuning"
|
||||||
},
|
},
|
||||||
|
{
|
||||||
|
"name": "Datasets"
|
||||||
|
},
|
||||||
{
|
{
|
||||||
"name": "RewardScoring"
|
"name": "RewardScoring"
|
||||||
},
|
},
|
||||||
|
|
@ -2471,6 +2806,10 @@
|
||||||
"name": "Dataset",
|
"name": "Dataset",
|
||||||
"description": "Dataset to be used for training or evaluating language models.\n\n<SchemaDefinition schemaRef=\"#/components/schemas/Dataset\" />"
|
"description": "Dataset to be used for training or evaluating language models.\n\n<SchemaDefinition schemaRef=\"#/components/schemas/Dataset\" />"
|
||||||
},
|
},
|
||||||
|
{
|
||||||
|
"name": "MemoryBank",
|
||||||
|
"description": "<SchemaDefinition schemaRef=\"#/components/schemas/MemoryBank\" />"
|
||||||
|
},
|
||||||
{
|
{
|
||||||
"name": "FinetuningJobArtifactsResponse",
|
"name": "FinetuningJobArtifactsResponse",
|
||||||
"description": "Artifacts of a finetuning job.\n\n<SchemaDefinition schemaRef=\"#/components/schemas/FinetuningJobArtifactsResponse\" />"
|
"description": "Artifacts of a finetuning job.\n\n<SchemaDefinition schemaRef=\"#/components/schemas/FinetuningJobArtifactsResponse\" />"
|
||||||
|
|
@ -2556,6 +2895,7 @@
|
||||||
"Datasets",
|
"Datasets",
|
||||||
"Finetuning",
|
"Finetuning",
|
||||||
"Inference",
|
"Inference",
|
||||||
|
"MemoryBanks",
|
||||||
"RewardScoring",
|
"RewardScoring",
|
||||||
"SyntheticDataGeneration"
|
"SyntheticDataGeneration"
|
||||||
]
|
]
|
||||||
|
|
@ -2584,6 +2924,7 @@
|
||||||
"FinetuningTrainRequest",
|
"FinetuningTrainRequest",
|
||||||
"KScoredPromptGenerations",
|
"KScoredPromptGenerations",
|
||||||
"LoraFinetuningConfig",
|
"LoraFinetuningConfig",
|
||||||
|
"MemoryBank",
|
||||||
"Message",
|
"Message",
|
||||||
"MessageScore",
|
"MessageScore",
|
||||||
"OptimizerConfig",
|
"OptimizerConfig",
|
||||||
|
|
|
||||||
|
|
@ -52,6 +52,10 @@ components:
|
||||||
type: array
|
type: array
|
||||||
instructions:
|
instructions:
|
||||||
type: string
|
type: string
|
||||||
|
memory_bank_uuids:
|
||||||
|
items:
|
||||||
|
type: string
|
||||||
|
type: array
|
||||||
model:
|
model:
|
||||||
enum:
|
enum:
|
||||||
- llama3_8b_chat
|
- llama3_8b_chat
|
||||||
|
|
@ -61,26 +65,30 @@ components:
|
||||||
items:
|
items:
|
||||||
$ref: '#/components/schemas/ShieldConfig'
|
$ref: '#/components/schemas/ShieldConfig'
|
||||||
type: array
|
type: array
|
||||||
|
uuid:
|
||||||
|
type: string
|
||||||
required:
|
required:
|
||||||
|
- uuid
|
||||||
- instructions
|
- instructions
|
||||||
- model
|
- model
|
||||||
- available_tools
|
- available_tools
|
||||||
- executable_tools
|
- executable_tools
|
||||||
|
- memory_bank_uuids
|
||||||
- input_shields
|
- input_shields
|
||||||
- output_shields
|
- output_shields
|
||||||
type: object
|
type: object
|
||||||
AgenticSystemCreateResponse:
|
AgenticSystemCreateResponse:
|
||||||
additionalProperties: false
|
additionalProperties: false
|
||||||
properties:
|
properties:
|
||||||
agent_id:
|
agent_uuid:
|
||||||
type: string
|
type: string
|
||||||
required:
|
required:
|
||||||
- agent_id
|
- agent_uuid
|
||||||
type: object
|
type: object
|
||||||
AgenticSystemExecuteRequest:
|
AgenticSystemExecuteRequest:
|
||||||
additionalProperties: false
|
additionalProperties: false
|
||||||
properties:
|
properties:
|
||||||
agent_id:
|
agent_uuid:
|
||||||
type: string
|
type: string
|
||||||
messages:
|
messages:
|
||||||
items:
|
items:
|
||||||
|
|
@ -94,7 +102,7 @@ components:
|
||||||
$ref: '#/components/schemas/AgenticSystemTurn'
|
$ref: '#/components/schemas/AgenticSystemTurn'
|
||||||
type: array
|
type: array
|
||||||
required:
|
required:
|
||||||
- agent_id
|
- agent_uuid
|
||||||
- messages
|
- messages
|
||||||
- turn_history
|
- turn_history
|
||||||
- stream
|
- stream
|
||||||
|
|
@ -124,12 +132,27 @@ components:
|
||||||
additionalProperties: false
|
additionalProperties: false
|
||||||
properties:
|
properties:
|
||||||
content:
|
content:
|
||||||
|
contentEncoding: base64
|
||||||
type: string
|
type: string
|
||||||
index_id:
|
metadata:
|
||||||
|
additionalProperties:
|
||||||
|
oneOf:
|
||||||
|
- type: 'null'
|
||||||
|
- type: boolean
|
||||||
|
- type: number
|
||||||
|
- type: string
|
||||||
|
- type: array
|
||||||
|
- type: object
|
||||||
|
type: object
|
||||||
|
mime_type:
|
||||||
|
type: string
|
||||||
|
uuid:
|
||||||
type: string
|
type: string
|
||||||
required:
|
required:
|
||||||
- index_id
|
- uuid
|
||||||
- content
|
- content
|
||||||
|
- metadata
|
||||||
|
- mime_type
|
||||||
type: object
|
type: object
|
||||||
step_type:
|
step_type:
|
||||||
enum:
|
enum:
|
||||||
|
|
@ -342,12 +365,27 @@ components:
|
||||||
additionalProperties: false
|
additionalProperties: false
|
||||||
properties:
|
properties:
|
||||||
content:
|
content:
|
||||||
|
contentEncoding: base64
|
||||||
type: string
|
type: string
|
||||||
index_id:
|
metadata:
|
||||||
|
additionalProperties:
|
||||||
|
oneOf:
|
||||||
|
- type: 'null'
|
||||||
|
- type: boolean
|
||||||
|
- type: number
|
||||||
|
- type: string
|
||||||
|
- type: array
|
||||||
|
- type: object
|
||||||
|
type: object
|
||||||
|
mime_type:
|
||||||
|
type: string
|
||||||
|
uuid:
|
||||||
type: string
|
type: string
|
||||||
required:
|
required:
|
||||||
- index_id
|
- uuid
|
||||||
- content
|
- content
|
||||||
|
- metadata
|
||||||
|
- mime_type
|
||||||
type: object
|
type: object
|
||||||
type: array
|
type: array
|
||||||
scores:
|
scores:
|
||||||
|
|
@ -972,6 +1010,17 @@ components:
|
||||||
- rank
|
- rank
|
||||||
- alpha
|
- alpha
|
||||||
type: object
|
type: object
|
||||||
|
MemoryBank:
|
||||||
|
additionalProperties: false
|
||||||
|
properties:
|
||||||
|
name:
|
||||||
|
type: string
|
||||||
|
uuid:
|
||||||
|
type: string
|
||||||
|
required:
|
||||||
|
- uuid
|
||||||
|
- name
|
||||||
|
type: object
|
||||||
Message:
|
Message:
|
||||||
additionalProperties: false
|
additionalProperties: false
|
||||||
properties:
|
properties:
|
||||||
|
|
@ -1428,6 +1477,147 @@ paths:
|
||||||
description: OK
|
description: OK
|
||||||
tags:
|
tags:
|
||||||
- Finetuning
|
- Finetuning
|
||||||
|
/memory_banks/create:
|
||||||
|
post:
|
||||||
|
parameters:
|
||||||
|
- in: query
|
||||||
|
name: bank_uuid
|
||||||
|
required: true
|
||||||
|
schema:
|
||||||
|
type: string
|
||||||
|
- in: query
|
||||||
|
name: bank_name
|
||||||
|
required: true
|
||||||
|
schema:
|
||||||
|
type: string
|
||||||
|
requestBody:
|
||||||
|
content:
|
||||||
|
application/json:
|
||||||
|
schema:
|
||||||
|
items:
|
||||||
|
additionalProperties: false
|
||||||
|
properties:
|
||||||
|
content:
|
||||||
|
contentEncoding: base64
|
||||||
|
type: string
|
||||||
|
metadata:
|
||||||
|
additionalProperties:
|
||||||
|
oneOf:
|
||||||
|
- type: 'null'
|
||||||
|
- type: boolean
|
||||||
|
- type: number
|
||||||
|
- type: string
|
||||||
|
- type: array
|
||||||
|
- type: object
|
||||||
|
type: object
|
||||||
|
mime_type:
|
||||||
|
type: string
|
||||||
|
uuid:
|
||||||
|
type: string
|
||||||
|
required:
|
||||||
|
- uuid
|
||||||
|
- content
|
||||||
|
- metadata
|
||||||
|
- mime_type
|
||||||
|
type: object
|
||||||
|
type: array
|
||||||
|
required: true
|
||||||
|
responses:
|
||||||
|
'200':
|
||||||
|
description: OK
|
||||||
|
tags:
|
||||||
|
- MemoryBanks
|
||||||
|
/memory_banks/delete:
|
||||||
|
post:
|
||||||
|
parameters:
|
||||||
|
- in: query
|
||||||
|
name: bank_uuid
|
||||||
|
required: true
|
||||||
|
schema:
|
||||||
|
type: string
|
||||||
|
requestBody:
|
||||||
|
content:
|
||||||
|
application/json:
|
||||||
|
schema:
|
||||||
|
items:
|
||||||
|
type: string
|
||||||
|
type: array
|
||||||
|
required: true
|
||||||
|
responses:
|
||||||
|
'200':
|
||||||
|
description: OK
|
||||||
|
tags:
|
||||||
|
- MemoryBanks
|
||||||
|
/memory_banks/drop:
|
||||||
|
delete:
|
||||||
|
parameters:
|
||||||
|
- in: query
|
||||||
|
name: bank_uuid
|
||||||
|
required: true
|
||||||
|
schema:
|
||||||
|
type: string
|
||||||
|
responses:
|
||||||
|
'200':
|
||||||
|
description: OK
|
||||||
|
tags:
|
||||||
|
- MemoryBanks
|
||||||
|
/memory_banks/get:
|
||||||
|
get:
|
||||||
|
parameters: []
|
||||||
|
responses:
|
||||||
|
'200':
|
||||||
|
content:
|
||||||
|
application/jsonl:
|
||||||
|
schema:
|
||||||
|
$ref: '#/components/schemas/MemoryBank'
|
||||||
|
description: OK
|
||||||
|
tags:
|
||||||
|
- MemoryBanks
|
||||||
|
/memory_banks/insert:
|
||||||
|
post:
|
||||||
|
parameters:
|
||||||
|
- in: query
|
||||||
|
name: bank_uuid
|
||||||
|
required: true
|
||||||
|
schema:
|
||||||
|
type: string
|
||||||
|
requestBody:
|
||||||
|
content:
|
||||||
|
application/json:
|
||||||
|
schema:
|
||||||
|
items:
|
||||||
|
additionalProperties: false
|
||||||
|
properties:
|
||||||
|
content:
|
||||||
|
contentEncoding: base64
|
||||||
|
type: string
|
||||||
|
metadata:
|
||||||
|
additionalProperties:
|
||||||
|
oneOf:
|
||||||
|
- type: 'null'
|
||||||
|
- type: boolean
|
||||||
|
- type: number
|
||||||
|
- type: string
|
||||||
|
- type: array
|
||||||
|
- type: object
|
||||||
|
type: object
|
||||||
|
mime_type:
|
||||||
|
type: string
|
||||||
|
uuid:
|
||||||
|
type: string
|
||||||
|
required:
|
||||||
|
- uuid
|
||||||
|
- content
|
||||||
|
- metadata
|
||||||
|
- mime_type
|
||||||
|
type: object
|
||||||
|
type: array
|
||||||
|
required: true
|
||||||
|
responses:
|
||||||
|
'200':
|
||||||
|
description: OK
|
||||||
|
tags:
|
||||||
|
- MemoryBanks
|
||||||
/reward_scoring/score:
|
/reward_scoring/score:
|
||||||
post:
|
post:
|
||||||
parameters: []
|
parameters: []
|
||||||
|
|
@ -1469,11 +1659,12 @@ security:
|
||||||
servers:
|
servers:
|
||||||
- url: http://llama.meta.com
|
- url: http://llama.meta.com
|
||||||
tags:
|
tags:
|
||||||
- name: SyntheticDataGeneration
|
|
||||||
- name: Datasets
|
|
||||||
- name: AgenticSystem
|
|
||||||
- name: Inference
|
- name: Inference
|
||||||
|
- name: MemoryBanks
|
||||||
|
- name: AgenticSystem
|
||||||
|
- name: SyntheticDataGeneration
|
||||||
- name: Finetuning
|
- name: Finetuning
|
||||||
|
- name: Datasets
|
||||||
- name: RewardScoring
|
- name: RewardScoring
|
||||||
- description: <SchemaDefinition schemaRef="#/components/schemas/ShieldConfig" />
|
- description: <SchemaDefinition schemaRef="#/components/schemas/ShieldConfig" />
|
||||||
name: ShieldConfig
|
name: ShieldConfig
|
||||||
|
|
@ -1523,6 +1714,8 @@ tags:
|
||||||
|
|
||||||
<SchemaDefinition schemaRef="#/components/schemas/Dataset" />'
|
<SchemaDefinition schemaRef="#/components/schemas/Dataset" />'
|
||||||
name: Dataset
|
name: Dataset
|
||||||
|
- description: <SchemaDefinition schemaRef="#/components/schemas/MemoryBank" />
|
||||||
|
name: MemoryBank
|
||||||
- description: 'Artifacts of a finetuning job.
|
- description: 'Artifacts of a finetuning job.
|
||||||
|
|
||||||
|
|
||||||
|
|
@ -1623,6 +1816,7 @@ x-tagGroups:
|
||||||
- Datasets
|
- Datasets
|
||||||
- Finetuning
|
- Finetuning
|
||||||
- Inference
|
- Inference
|
||||||
|
- MemoryBanks
|
||||||
- RewardScoring
|
- RewardScoring
|
||||||
- SyntheticDataGeneration
|
- SyntheticDataGeneration
|
||||||
- name: Types
|
- name: Types
|
||||||
|
|
@ -1648,6 +1842,7 @@ x-tagGroups:
|
||||||
- FinetuningTrainRequest
|
- FinetuningTrainRequest
|
||||||
- KScoredPromptGenerations
|
- KScoredPromptGenerations
|
||||||
- LoraFinetuningConfig
|
- LoraFinetuningConfig
|
||||||
|
- MemoryBank
|
||||||
- Message
|
- Message
|
||||||
- MessageScore
|
- MessageScore
|
||||||
- OptimizerConfig
|
- OptimizerConfig
|
||||||
|
|
|
||||||
Loading…
Add table
Add a link
Reference in a new issue