조직의 AI 사용을
한 곳에서 관리합니다
MiWork Gate는 코딩 도구, AI 에이전트, 사내 앱이 AI 모델을 호출하는 길목에서 예산과 권한, 개인정보 정책을 적용하는 AI 게이트웨이입니다. 응답 캐시와 사내 LLM으로 모델 비용을 줄이고, 캐시로 아낀 금액과 누가 어떤 모델을 얼마나 썼는지 웹 콘솔에서 바로 확인합니다.
AI 도구는 늘어나는데, 관리 기준은 흩어져 있습니다
팀마다 다른 AI 도구와 키를 쓰기 시작하면 비용은 월말에야 보이고, 어떤 정보가 외부 모델로 나갔는지 확인하기 어렵습니다. MiWork Gate는 모든 모델 호출이 하나의 관문을 지나게 해 같은 기준으로 허용하고 기록합니다.
핵심 기능
익숙한 방식 그대로 연결
OpenAI·Anthropic 방식의 대화, 응답 생성, 임베딩 요청을 받습니다. DeepSeek, GLM, Qwen 같은 OpenAI 호환 모델과 사내 LLM도 같은 방식으로 연결합니다. 코딩 도구, AI 에이전트, 사내 앱은 연결 주소와 발급받은 키를 바꿔 모델을 호출합니다. 일부 고급 기능은 지원 범위를 확인해야 합니다.
조직·팀 예산
조직, 팀, 사용자, 키마다 예산을 두고 일·주·월·분기·반기 단위로 초기화하거나 기간 없이 운영합니다. 동시에 들어온 요청도 같은 한도 안에서 판단합니다.
모델별 가격과 마진
모델마다 공급자 원가와 내부 청구 단가를 정합니다. 공개 가격표를 이용한 자동 갱신과 마진율 적용을 지원하며, 가격이 바뀌어도 이전 요청은 당시 가격으로 남습니다.
개인정보·보안 정책
이메일, 전화번호, 주민등록번호, 카드번호 형태의 정보를 정해진 패턴으로 찾아 모델로 보내기 전에 가리고, API 키 같은 비밀값이 담긴 요청은 차단합니다. 조직과 팀은 상위 보안 기준을 낮출 수 없습니다.
선택형 프롬프트 기록
프롬프트 본문 저장은 기본으로 꺼져 있습니다. 켜면 개인정보와 비밀값을 지운 뒤 암호화해 보관하고 정한 기간이 지나면 삭제합니다. 열람 권한은 따로 부여하고 열람 이력도 남깁니다.
모델 연결과 시험 호출
모델 이름과 실제 공급자 모델, 허용한 접속 주소, 암호화된 공급자 키를 등록합니다. 콘솔에서 시험 호출하면 실제 요청과 같은 권한·예산·보안 정책을 거쳐 응답과 비용을 보여 줍니다.
줄어든 AI 비용,
눈으로 확인합니다
MiWork Gate는 앞서 받은 응답을 다시 쓸 수 있는 요청을 저장된 응답으로 처리합니다. 모델을 호출하지 않으니 비용이 들지 않고 예산도 줄지 않습니다. 이렇게 아낀 금액은 관리 콘솔에 바로 쌓여, 비용 절감을 숫자로 확인할 수 있습니다.
- 아낀 금액을 기간·모델별로운영 현황에서 캐시로 아낀 금액과 캐시 응답 건수를 보고, 모델별 비용 표에서 어느 모델에서 얼마나 줄었는지 비교합니다.
- 원래 가격 그대로 계산절감액은 캐시된 응답을 처음 만들 때 실제로 정산된 청구액과 공급자 원가를 기준으로 기록합니다.
- 사용자별 분리, 암호화 보관저장된 응답은 다른 사용자와 공유하지 않으며 전용 키로 암호화해 기본 1시간 보관합니다.
사내 LLM과 외부 모델을
함께, 기준에 맞게
조직 안에서 운영하는 사내 LLM을 외부 모델과 같은 관문에 연결합니다. 사용자와 앱은 같은 방식으로 호출하고, 관리자는 업무의 보안 수준과 비용에 맞춰 팀마다 쓸 수 있는 모델을 정합니다.
- 보안 수준에 따른 모델 제한민감한 정보를 다루는 팀은 허용 모델을 사내 LLM으로만 지정해, 요청이 조직 밖 모델로 나가지 않게 합니다.
- 비용에 맞춘 모델 배분일상 업무는 사내 LLM으로, 높은 성능이 필요한 작업만 외부 모델로 나눠 외부 모델 비용을 줄입니다. 모델별 사용량과 비용은 콘솔에서 비교합니다.
- 상위 기준 안에서만 허용조직·팀·사용자의 허용 모델은 상위에서 허용한 범위를 넘을 수 없습니다.
요청 하나가 모델에 닿기까지
정책에 걸려 차단된 요청은 비용 없이 처리합니다. 공급자에 보낸 뒤 결과를 확인하지 못한 요청은 0원으로 처리하지 않고 확인이 필요한 상태로 남겨 대조합니다.
맡은 범위만 보이는
관리 콘솔
운영 현황, 조직과 예산, 모델과 가격, 모델 테스트, 보안 정책, 로그와 감사를 웹 콘솔에서 관리합니다. 로그인은 자체 계정 또는 Microsoft Entra ID 중 하나로 구성합니다.
로그인만으로는 관리 권한이 생기지 않습니다. 미리 등록한 계정에만 역할과 조직·팀 범위를 부여하며, 프롬프트 본문 열람은 역할과 별도로 허용합니다.
대표 활용 사례
- 사내 AI 도구를 같은 기준으로 운영코딩 도구, AI 에이전트, 사내 앱이 하나의 관문으로 모델을 호출하게 해 권한과 정책을 한 번에 관리합니다.
- AI 비용 절감 성과 보고응답 캐시로 아낀 금액과 모델별 비용을 기간별로 확인해 절감 효과를 숫자로 공유합니다.
- 부서별 AI 비용 배분조직·팀별 예산과 모델별 원가·청구액을 기준으로 AI 비용을 나누고 확인합니다.
- 민감한 정보를 다루는 업무해당 팀은 사내 LLM만 쓰도록 제한하고, 외부 모델로 가는 요청의 개인정보는 가리거나 차단합니다.
설치와 운영
- —조직의 서버에 컨테이너로 설치
- —모델 호출용과 관리용 서비스를 분리해 실행
- —연동하는 애플리케이션마다 별도 인스턴스와 데이터베이스로 운영
- —공급자 키, 프롬프트 기록, 캐시 응답은 각각 다른 키로 암호화
- —정산 내역은 덮어쓰지 않고 조정 기록을 추가
관리 기능은 내부망에서만 접근하도록 구성하는 것을 권장합니다. 구체적인 구성은 도입 환경을 함께 확인해 정합니다.
자주 묻는 질문
어떤 AI 모델을 연결할 수 있나요?+
OpenAI와 Anthropic 모델은 물론 DeepSeek, GLM, Qwen처럼 OpenAI 호환 API를 제공하는 모델과 사내 LLM도 연결합니다. OpenAI 호환 모델은 가격을 직접 입력해 비용을 관리합니다. 대화, 응답 생성, 임베딩 요청을 지원하며, 공급자 쪽에서 실행되는 유료 검색·도구처럼 토큰 외 요금이 붙는 기능은 지원하지 않습니다. 실제로 사용할 모델과 기능 범위는 도입 환경에서 함께 확인합니다.
예산을 넘으면 어떻게 되나요?+
요청을 보내기 전에 최대 예상 비용을 예약하므로, 남은 예산으로 감당할 수 없는 요청은 모델에 보내지 않고 거절합니다. 최대 비용을 기준으로 예약하기 때문에 남은 예산이 적으면 짧은 요청도 거절될 수 있습니다. 캐시로 처리되는 요청은 비용이 들지 않아 예산을 모두 쓴 뒤에도 응답할 수 있습니다.
개인정보를 모두 걸러낼 수 있나요?+
정해진 패턴으로 검사하므로 모든 개인정보나 공격 시도를 찾아낸다고 보장하지 않습니다. 이미지·파일처럼 검사할 수 없는 내용은 기본적으로 전달하되 기록에 남기고, 엄격 검사를 켜면 이런 요청을 차단합니다. 모델의 응답은 가공하지 않고 사용자에게 그대로 전달합니다.
프롬프트 내용이 저장되나요?+
기본 설정에서는 저장하지 않습니다. 본문 저장을 켜면 개인정보와 비밀값을 지운 뒤 암호화해 보관하고, 기본 30일(1~365일에서 선택) 뒤 삭제합니다. 사용량과 비용 기록은 본문과 별도로 유지됩니다. 응답 캐시를 켜면 다시 쓰기 위해 모델의 응답을 전용 키로 암호화해 기본 1시간 보관하며, 요청 원문은 캐시에 남기지 않습니다.
캐시로 아낀 비용은 어디서 확인하나요?+
관리 콘솔의 운영 현황에서 기간별로 캐시로 아낀 금액, 캐시 응답 건수, 절감한 공급자 원가를 확인합니다. 모델별 비용 표에는 모델마다 캐시 응답 건수와 절감액이 함께 표시됩니다. 절감 규모는 업무에서 응답을 다시 쓸 수 있는 요청이 얼마나 나오는지에 따라 달라집니다.
캐시는 어떤 요청에 적용되나요?+
같은 사용자가 같은 모델과 옵션으로 보낸 같은 요청에 대해, 보관 기간 안에 앞서 받은 성공 응답을 다시 씁니다. 비슷한 질문을 찾아 재사용하는 방식은 아니며, 파일·이미지 참조나 이전 대화 상태를 이어 가는 요청은 캐시하지 않습니다. 매번 새 답이 필요한 요청은 캐시를 건너뛰도록 지정할 수 있습니다.
사내에서 운영하는 LLM도 연결할 수 있나요?+
OpenAI 또는 Anthropic 방식의 API를 제공하는 사내 LLM 서버를 HTTPS 주소로 등록해 외부 모델과 함께 쓸 수 있습니다. 접속을 허용할 서버 주소는 관리자가 미리 지정합니다. 요청 내용에 따라 모델을 자동으로 바꾸지는 않으며, 팀별 허용 모델로 사용 범위를 정합니다.
공급자 요청이 실패하면 다시 보내나요?+
중복 과금을 막기 위해 공급자에 이미 보낸 요청은 자동으로 다시 보내지 않습니다. 결과를 확인하지 못한 요청은 확인이 필요한 상태로 남겨 공급자 사용 내역과 대조할 수 있습니다.
AI 비용은 줄이고, 관리 기준은 세우세요.
사용 중인 AI 도구와 모델, 사내 LLM 운영 여부와 조직 구조에 맞는 MiWork Gate 구성을 함께 확인해 보세요.