OpenAI Agents API 주간 업데이트: 명령 실행 전 자동 검토·비동기 압축·세션 간 캐시 도입

명령 실행 직전 작동하는 Auto Review와 도구 업데이트

에이전트에게 터미널 명령이나 외부 도구 실행 권한을 부여할 때 가장 민감한 구간은 모델이 생성한 명령어가 실제 시스템에 전달되는 순간입니다. OpenAI Developers가 10월 30일 발표한 주간 업데이트의 첫 번째 항목인 Auto Review는 에이전트가 명령을 실행하기 전에 자동으로 사전 검토를 수행하는 안전장치입니다.

개발팀이 별도의 검수 루프를 직접 짜지 않아도 API 차원에서 명령 실행 직전 검토 단계가 작동하며, 함께 배포된 도구 업데이트(Tool updates)와 맞물려 다단계 에이전트 작업의 안정성을 높여 줍니다.

백그라운드 비동기 압축과 세션 간 프롬프트 캐시로 지연·비용 해결

오랜 시간 여러 단계를 거치는 에이전트는 도구 호출 결과와 로그가 쌓이면서 컨텍스트 창이 빠르게 차오릅니다. 기존에는 기록을 요약하느라 메인 작업이 멈추곤 했지만, 새로 도입된 Async Compaction은 컨텍스트 압축을 백그라운드에서 비동기로 처리해 에이전트 흐름을 끊지 않고 메모리를 정리합니다.

비용 측면에서는 시스템 프롬프트가 세션 간에 자동으로 캐싱되는 prompt-cache 개선이 핵심입니다. 수많은 개별 세션에서 동일한 시스템 지침과 도구 스키마를 반복 사용하는 프로덕션 에이전트의 경우, 세션이 바뀌어도 캐시가 유지되어 입력 토큰 비용과 초기 응답 시간을 동시에 아낄 수 있습니다.

• Auto Review (자동 검토)

  명령어 실행 전에 자동으로 사전 검토를 거쳐 의도치 않거나 위험한 실행을 방지합니다.

• Async Compaction (비동기 압축)

  길어진 문맥을 백그라운드에서 비동기 방식으로 압축해 에이전트 응답 지연을 막습니다.

• 세션 간 prompt-cache

  시스템 프롬프트를 여러 세션에 걸쳐 자동 캐싱하여 반복 실행 시 토큰 비용을 절감합니다.

• Time awareness 및 도구 업데이트

  실험적인 시간 인식 기능을 부여하고 API 내장 도구 동작을 개선했습니다.

실험적 시간 인식 기능으로 시간 맥락 보강

기존 언어 모델 호출은 개발자가 매번 현재 시각을 프롬프트에 넣어주지 않는 한 시간의 흐름을 알지 못합니다. 이번 업데이트에 포함된 실험적 시간 인식(Time awareness) 기능은 에이전트가 실행 도중 시간적 맥락을 파악할 수 있도록 돕습니다.

결과적으로 10월 30일 주간 업데이트의 다섯 가지 항목은 모두 실무 운영 환경의 병목을 줄이는 데 초점을 맞추고 있습니다. Auto Review로 명령 실행 사고를 막고, Async Compaction으로 장기 작업의 문맥을 관리하며, 세션 간 자동 캐싱으로 운영비를 낮추는 구조입니다.