Интеграции
LangChain
Используйте ChatOpenAI с base URL NotHoly.
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(model="notholy-specter", base_url="https://api.notholy.com/v1", api_key=os.environ["NOTHOLY_API_KEY"])
print(llm.invoke("Name the CWE for OS command injection.").content)Привязка инструментов через llm.bind_tools([...]) работает, потому что модели поддерживают вызов функций.