Skip to content

端到端评估locomo数据集使用的LLM是GPT-4o-mini,非开源模型,这个评估就没有使用kv-cache吗? #77

@xxlxx1

Description

@xxlxx1

Image
kv-cache的记忆只能开源模型才能使用吧?
那端到端评估就只用到了明文记忆吗

Metadata

Metadata

Assignees

No one assigned

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions