흩어진 사내 AI 에이전트,
한 화면에서 통제하고 자산화하세요

AX Foundry는 기업 안에서 쓰는 AI Agent를 안전하고 비용 효율적으로 운영하도록 돕는 AI 거버넌스 플랫폼입니다. Agent가 호출하는 LLM · MCP · API 요청을 AI Gateway 한곳으로 모아 보안 정책을 적용하고, 토큰 사용량과 비용은 FinOps로, Agent의 등록부터 배포 · 폐기까지는 Agent Hub로 관리합니다.

Dify · n8n 같은 개발 도구가 Agent를 ‘만드는’ 도구라면, AX Foundry는 만들어진 Agent를 ‘운영 · 관리’하는 플랫폼입니다. 그래서 기존 도구를 바꿀 필요 없이 함께 쓸 수 있습니다. LLM · MCP · API를 호출하는 Endpoint를 AX Foundry Gateway 주소로 바꾸고 발급받은 API Key만 넣으면 바로 연결됩니다.

AI Agent와 PoC가 여러 부서로 퍼지기 시작할 때 필요합니다. 부서마다 따로 만든 Agent가 늘어나면 어떤 Agent가 어떤 모델과 데이터를 쓰는지, 책임자가 누구인지, 비용이 얼마나 나가는지, 민감한 정보가 외부로 나가지 않는지를 한눈에 파악하기 어려워집니다.

AX Foundry는 Agent 목록(Catalog), 호출 기록(Audit Log), 사용량 · 비용, 보안 이벤트를 한 화면에 모아 이런 Shadow AI 문제를 줄입니다. 도입 초기에는 담당자가 직접 챙길 수 있지만, 확산 단계에서는 Agent 수 · 사용자 · 비용이 함께 늘어나기 때문에 공통 기준으로 관리할 플랫폼이 필요합니다.

AI 사용량이 많고 업무 중요도(다루는 데이터의 민감도, 외부 서비스 연결 여부)가 높은 한 부서 · 한 업무에서 시작하는 것을 권장합니다.

1단계 현황 파악: Gateway를 모니터링 모드(차단 없이 기록)로 연결해 실제 사용 현황과 보안 이벤트를 확인합니다. 등록되지 않은 모델 호출은 이 단계에서도 막을 수 있습니다.
2단계 통제 적용: 차단 정책과 사용 한도(Quota)를 켜고, 오탐 여부와 한도 동작을 확인해 정책을 확정합니다.
3단계 전사 확대: 검증된 정책을 다른 부서에 그대로 적용합니다. 호출 주소와 API Key만 바꾸는 방식이라 부서를 넓힐 때 기존 Agent를 다시 만들 필요가 없습니다.

단계별 목표 수치는 고객사와 함께 정하고, 판단 근거가 되는 데이터는 대시보드에서 확인할 수 있습니다.

효과는 ‘사용량’과 ‘업무 성과’를 나눠서 봅니다. 사용량이 늘었다는 것만으로 효과가 있다고 판단하지 않습니다.

AX Foundry가 직접 측정하는 지표: 호출 수, 토큰 사용량, 비용(모델 · 부서 · Agent별), 응답 시간(Latency), 오류율, 차단 · 경고 건수, Agent 응답 품질
고객사가 측정하는 지표: 업무 처리 시간 단축, 처리량 증가 같은 비즈니스 성과

도입 전 기준값과 업무별 목표는 고객사가 정하고, ONS는 플랫폼에서 측정되는 지표를 제공합니다. ROI는 두 지표를 함께 놓고 산정합니다.

상담 → 진단 → 구축 → 교육 → 운영 순서로 진행합니다.

진단 단계에서 현재 AI 사용 현황, 연동할 시스템, 설치 환경을 확인하고 첫 적용 업무를 정합니다. 일정과 비용은 도입할 제품 조합(Gateway · FinOps · Agent Hub와 옵션), 설치 환경(클라우드 VPC · 온프레미스 · 폐쇄망), 연동할 시스템 수(LLM 공급사, MCP 서버, 사내 API, SSO 등), 사용자 수에 따라 달라지며 진단 후 구체적으로 산정해 드립니다.

ONS는 설치 · 연동 · 정책 설정, 관리자 · 개발자 교육, 운영 중 정책 조정과 확대 적용을 지원하며, 세부 지원 범위는 계약 시 확정합니다.

네, 가능합니다. AX Foundry는 고객사 서버에 직접 설치하는 Self-hosted 방식으로 제공되어 사내 VPC, 온프레미스, 인터넷이 차단된 폐쇄망(Air-gapped) 환경 모두에 구축할 수 있습니다.

폐쇄망에서는 Ollama 같은 사내 설치형 LLM을 연결하면 모델 호출까지 내부에서 처리됩니다. 외부 LLM(OpenAI, Anthropic 등)을 쓰려면 해당 서비스로 나가는 경로만 허용하면 됩니다.

로그와 사용 기록은 고객사 DB에 저장되고, API Key 같은 Secret은 고객사의 Secret Manager(HashiCorp Vault · OpenBao · CyberArk Conjur 등)나 암호화 저장소에 보관됩니다. 어떤 외부 서비스를 허용할지는 고객사 보안 기준에 맞춰 정하면 됩니다.

모든 데이터는 고객사 인프라 안에 저장됩니다. 감사 로그 · 사용량 · 대화 원문은 고객사 DB에, API Key 같은 Secret은 Secret Manager에, RAG용 문서와 벡터는 사내에 설치되는 데이터 파이프라인(S3 호환 Object Storage, pgvector)에 저장됩니다.

외부로 전송되는 것은 고객사가 직접 등록한 외부 LLM · MCP · API를 호출할 때의 요청 내용뿐입니다. 이때도 Gateway가 요청을 검사해 내부 등급 데이터, 개인정보(PII), 인증 정보(Credential)가 외부로 나가면 차단합니다.

대화 원문 보관 여부와 보관 기간(90일~5년), 마스킹 보관, SIEM 등 사내 로그 시스템으로의 전송은 회사 보안 정책에 맞게 설정합니다. 원문 열람은 승인 절차를 거쳐야 하고 열람 이력이 남습니다. 고객사는 데이터 등급 기준과 허용할 외부 서비스 목록을 정해 두면 됩니다.

기존 사내 네트워크와 인증 체계는 그대로 유지합니다. 사내 인증체계가 AX Foundry의 인증체계와 맞지 않을 경우 연동을 위한 추가 개발이 필요합니다.

Agent와 개발 도구는 LLM · MCP · API를 호출하는 Endpoint만 AX Foundry Gateway 주소로 바꾸고 API Key를 넣으면 됩니다. 모든 요청은 Gateway에서 인증, 보안 정책, 개인정보(PII), Prompt Injection, 데이터 접근 권한 검사를 거친 뒤 대상 서비스로 전달됩니다. 사용자 로그인은 사내 SSO(OIDC)와 SCIM 자동 프로비저닝으로 기존 계정을 그대로 사용합니다.

고객사가 준비할 핵심 사항은 외부 AI 서비스로 직접 나가는 트래픽을 방화벽이나 Proxy로 막아 모든 호출이 Gateway를 거치게 하는 것입니다. 도입 전 보안 · 인프라 담당자와 네트워크 경로, SSO 연동 방식, 데이터 등급 기준, 로그 보관 · 전송 정책, Secret 보관 위치를 함께 협의합니다.

탐지 · 차단 · 추적을 나눠서 지원합니다.

탐지: 등록되지 않은 Agent의 호출은 ‘미등록’으로 구분되어 표시됩니다. Gateway를 거치지 않은 사용은 LLM 공급사의 청구 내역과 대조해 사용 사실을 확인할 수 있습니다.
차단: 승인되지 않은 Agent의 호출과 보안 정책(Guardrail)에 걸린 요청을 차단하거나 경고합니다.
추적: 요청마다 부여되는 Trace ID로 Audit Log, Agent 실행 흐름(Trace), 승인된 원문, 설정 변경 이력을 따라가 원인을 확인합니다.

관리 대상은 Gateway를 거치는 호출과 등록된 Agent입니다. Gateway를 거치지 않은 호출의 내용이나 PC · 네트워크에서 일어난 다른 행위는 확인할 수 없으며, 통제 수준은 사내 네트워크에서 외부 AI 서비스 직접 접속을 얼마나 막았는지에 따라 달라집니다. 보안 정책은 Red Teaming(탈옥 · Prompt Injection · 정보 유출 시나리오)으로 주기적으로 검증하고, 새로 확인된 유형은 정책에 추가합니다.

바꾸지 않아도 됩니다. Dify · n8n · Claude Code 같은 도구나 자체 개발한 Agent는 LLM · MCP · API의 Endpoint를 AX Foundry Gateway로 바꾸고 API Key만 넣으면 기존 구성 그대로 연결됩니다.

다만 호출 주소가 코드에 직접 들어가 있는 자체 개발 앱은 설정을 수정해야 합니다.

특정 빌더나 모델 공급사에 종속되지 않습니다.

Dify는 API Key가 필요하며, 자체 개발 Agent는 ONS 측이 제공하는 샘플 코드를 참고하여 수정해야 합니다. n8n 연동 방식은 확인이 필요합니다.

네. Agent Catalog에서 등록된 모든 Agent의 상태, 소유 부서, 개발 플랫폼, 운영 지표(호출 수 · 오류율 · 비용 등)를 한 목록으로 확인할 수 있습니다. 버전 이력과 배포 후 무단 변경 여부, 품질 저하 · 중복 · 폐기 대상도 함께 관리합니다.

경영진은 전사 대시보드에서 제품별 현황과 주요 분석 결과를 한 화면으로 보고, 실무자는 Agent · 보안 · 비용 메뉴에서 세부 항목을 관리합니다.

대시보드에서 보이는 범위는 플랫폼에 등록된 Agent 이거나 Gateway 에 연결된 LLM 또는 MCP 입니다.

네. AX Foundry는 ‘이 사람이 이 데이터를 쓸 수 있는가’라는 하나의 기준으로 권한을 관리합니다. Agent 사용 권한도 그 Agent가 쓰는 데이터 권한에 따라 정해지므로, Agent가 수백 개로 늘어나도 Agent마다 권한을 따로 줄 필요가 없습니다.

전사 공통 보안 정책과 기본 한도는 거버넌스 담당자가 정하고, 부서별 권한은 부서장이 부서원에게 부여합니다. 다른 부서의 데이터는 그 데이터를 관리하는 부서장의 승인을 받아 사용합니다. 부서나 API Key 단위로 정책을 더 엄격하게 바꾸는 것은 바로 적용되고, 정책을 완화하거나 예외를 두는 것은 승인 절차를 거칩니다.

모든 최종 판단은 담당자가 하며, 누가 언제 무엇을 승인 · 변경했는지 Change Log로 남습니다.

네. 사용량과 비용은 API Key · 사용자 · 부서 · 모델 · Agent 단위로 확인할 수 있습니다. 외부 LLM API 비용(공급사별 단가 · 할인 반영), 비용이 들지 않는 사내 GPU 사용량, 좌석형 AI 구독 비용을 구분해 보여 줍니다.

개인 · 부서별 월 토큰 한도(Quota)를 설정해 초과 시 차단하거나 경고할 수 있고, 한도 증액은 승인 절차로 처리합니다. 예산 대비 사용 추이와 월말 예상치도 확인할 수 있습니다.

더 저렴한 모델로의 교체, 경량 모델 전환, 중복 Agent 통합 같은 비용 절감 방안을 근거와 함께 제안하며, 실제 적용 여부는 담당자가 결정합니다. Agent별 비용을 정확히 보려면 Agent마다 API Key를 발급해 연결해야 합니다.