AI 인프라·비용 해설
AI 인프라와 비용, 예산 계획은 어떻게 세우나
AI 도입에서 나중에 가장 크게 체감되는 것은 성능이 아니라 운영비입니다. 인프라를 어디에 두는지, 모델 사용량을 어떻게 관리하는지에 따라 비용 구조가 달라집니다. 이 페이지는 AI 팩토리와 AI 클라우드의 차이, Cast AI 같은 최적화 도구의 위치, 예산 계획에 반영할 기준을 정리합니다.
이 페이지가 다루는 것
인프라를 어디에 두는지에 따라 예산 검토 주체가 달라지고, 모델 사용량을 어떻게 묶는지에 따라 청구서 장수가 달라집니다. 아래에서는 시설과 서비스의 차이, 운영비가 새는 지점, 확산 단계에서 비용이 커지는 이유를 순서대로 짚고 마지막에 예산표 항목으로 정리합니다.
AI 팩토리와 AI 클라우드는 다른 항목이다
SK텔레콤 발표에서 2027년 가동 예정의 첫 AI 팩토리가 언급됐습니다. 대규모 데이터와 컴퓨팅을 묶는 차세대 인프라 개념이며, 솔루션보다 기반 시설에 가깝습니다.
기반 시설
AI 팩토리
대규모 데이터와 컴퓨팅을 한곳에 묶는 시설 개념입니다. 개별 기업이 같은 규모를 자체적으로 갖추기는 어려워, 정책과 대기업 투자가 함께 움직이는 영역입니다.
예산 검토에서는 직접 소유 대상이 아니라 전제 조건으로 두는 편이 맞습니다.
서비스 형태
AI 클라우드
컴퓨팅 자원을 서비스 형태로 쓰는 개념입니다. 계약과 사용량 청구가 월 단위로 움직이고, 필요할 때 늘리고 줄이는 판단이 곧 비용 판단이 됩니다.
예산 계획에서 둘을 같은 줄에 넣으면 검토 주체와 규모가 달라 혼선이 생깁니다.
AI 팩토리가 산업정책과 만나는 지점
AI 팩토리는 한국의 AI 산업정책과 기업 인프라 투자가 교차하는 지점에 있습니다. 솔루션을 고르는 조직 입장에서는 직접 소유 대상이 아니라 전제 조건으로 보는 편이 맞습니다.
누가 세우는가
정책과 대기업 투자가 함께 움직이는 영역이라 개별 조직의 단독 결정 사항이 아닙니다.
무엇으로 보는가
소유 대상이 아니라, 솔루션을 얹을 때 전제가 되는 조건으로 정리합니다.
예산에 어떻게
가동 시점과 지역, 접근 방식이 정해진 뒤에 자사 사용량 계획을 붙이는 순서가 안전합니다.
운영비는 어디에서 발생하는가
모델 호출량, 저장 용량, 네트워크 사용, 그리고 유휴 자원입니다. 네 항목 중 앞의 셋은 늘리기 전에 계산할 수 있지만, 마지막 하나는 통제가 어렵습니다. 그래서 도입 초기부터 사용량을 볼 수 있는 구조를 만들어두는 편이 낫습니다.
모델 호출량
사용자가 늘면 요청 수가 그대로 늘어납니다. 파일럿 단계의 호출량을 확산 계획에 그대로 대입하면 어긋납니다.
변동비에 가깝습니다
저장 용량
학습 데이터와 로그, 결과물이 쌓이면 계속 증가합니다. 보관 기간을 정해두지 않으면 줄어들지 않습니다.
보관 정책이 비용을 정합니다
네트워크 사용
데이터를 어디에 두는지에 따라 전송 구간과 요금 구조가 달라집니다. 내부 배치와 외부 서비스 사용은 여기서 갈립니다.
배치 결정과 붙어 있습니다
유휴 자원
사용하지 않는 인스턴스가 켜져 있으면 비용은 계속 나갑니다. 담당자가 바뀌거나 실험이 끝난 뒤에도 남아 있는 자원이 여기에 해당합니다.
통제가 가장 어렵습니다
비용 최적화 도구가 다루는 영역
Cast AI는 클라우드 자원 최적화와 운영 효율성 맥락에서 알려져 있으며, KT의 AI 코딩 및 에이전트 확장 파트너로 보도됐습니다. 기업의 AI 운영비와 인프라 효율을 동시에 다루는 사례입니다.
확인할 지점
이미 클라우드를 쓰는 조직이라면 도입 자체보다 운영 단계의 효율을 어떻게 개선할지가 관건이 됩니다. 한국 시장에서 비용 최적화형 AI 도입의 참고점으로 언급됩니다.
운영 단계에서 확인할 것
-
인스턴스가 실제로 몇 시간 동안 유휴 상태였는지 확인할 수 있는가
-
자원 축소가 서비스 응답 시간에 어떤 영향을 주는지 미리 측정했는가
-
비용 담당자와 운영 담당자가 같은 사용량 화면을 보고 있는가
-
개선 효과를 어느 기간으로 나눠 확인할지 정해두었는가
모델 사용 비용을 묶어서 보는 방법
여러 모델을 쓰면 청구서도 여러 장이 됩니다. OpenRouter는 여러 외부 AI 모델을 한 서비스에서 연결하는 모델 유통·접속 계층으로 알려져 있고, KT의 Token Factory 확대 파트너로 보도됐습니다. 단일 인터페이스로 모델을 묶으면 사용량 비교가 쉬워집니다.
묶기 전
모델마다 계정과 청구가 따로 생겨, 어느 팀이 어디에 얼마를 썼는지 대조하기 어렵습니다.
묶은 뒤
어떤 모델이 어디에 얼마나 쓰였는지 한 화면에서 확인할 수 있어, 예산 조정 근거가 생깁니다.
예산 계획에 넣어야 할 항목
고정비와 변동비를 나눠서 적습니다. 이 네 항목을 한 표에 적어두면 파일럿 이후 확산 단계에서 예산을 다시 짜는 일이 줄어듭니다.
고정비
-
인프라 사용료
자원을 확보해 두는 기간에 따라 정해지는 부분입니다. 계약 기간이 길수록 조정 폭이 줄어듭니다.
-
플랫폼 사용료
좌석 수나 부서 수처럼 사람 수에 붙는 항목입니다. 확산 계획이 있으면 여기서 먼저 늘어납니다.
변동비
모델 호출량이 대표적입니다. 사용자가 늘어난 만큼 올라가므로, 확산 계획에 사용자 수 증가분을 미리 반영해두는 편이 안전합니다.
초기 도입 비용
설계와 이관, 첫 구축에 드는 비용입니다. 한 해 예산에 한 번만 잡히므로 변동비와 섞지 않습니다.
운영 인력 비용
사용량을 보고 조정하는 역할입니다. 이 항목을 빼면 나머지 세 항목을 관리할 주체가 사라집니다.
비용과 보안은 같이 움직인다
보안 요건이 강해지면 배포 방식이 바뀌고, 배포 방식이 바뀌면 비용 구조도 바뀝니다. 데이터를 내부에 두는 방식은 외부 서비스 사용보다 인프라 부담이 커지는 경우가 많습니다.
공공기관과 규제 산업이라면 이 관계를 처음부터 전제로 두는 편이 안전합니다. 두 항목을 따로 검토하면 나중에 다시 설계해야 합니다. 어느 쪽을 먼저 정하든, 나머지 한쪽의 비용 항목이 따라 바뀐다는 점을 계획서에 적어두면 재작업이 줄어듭니다.
확산 단계에서 비용이 튀는 이유
파일럿은 사용자가 적어 비용이 낮게 보입니다. 부서 단위로 넓어지면 호출량과 저장량이 함께 늘어납니다. 여기에 권한 관리와 로그 보관 비용이 더해집니다.
-
사용자 수가 두 배가 되면 호출량도 같은 방향으로 움직입니다.
-
부서가 늘면 권한 관리와 감사 기록 보관 범위도 함께 넓어집니다.
-
확산 계획에 사용자 수 증가분을 미리 반영해두면 예산 초과를 줄일 수 있습니다.
파일럿 예산은 통과하고 확산 예산에서 멈추는 이유는 대개 성능이 아니라 사용량 계산입니다.
뷰니트로 AI 리서치 · 인프라와 비용 편집 노트
자주 묻는 질문
예산 검토 회의에서 반복해서 나오는 질문 세 가지를 정리했습니다. 답변에 쓰인 사실은 본문과 같은 출처를 따릅니다.
한국에서 AI 클라우드와 AI 팩토리는 무엇이 다른가요?
AI 클라우드는 컴퓨팅 자원을 서비스 형태로 쓰는 개념이고, AI 팩토리는 대규모 데이터와 컴퓨팅을 묶은 인프라 시설에 가깝습니다. SK텔레콤 발표에서 2027년 가동 예정의 첫 AI 팩토리가 언급됐습니다.
AI 운영비는 어디에서 주로 발생하나요?
모델 호출량, 저장 용량, 네트워크 사용, 유휴 자원입니다. 이 중 유휴 자원은 통제가 어려워 비용이 계속 나가는 경우가 많습니다. 도입 초기부터 사용량을 확인할 수 있는 구조를 만들어두는 편이 낫습니다.
여러 모델을 쓸 때 비용을 어떻게 관리하나요?
모델 접속 계층을 통해 단일 인터페이스로 묶으면 사용량 비교가 쉬워집니다. OpenRouter가 그런 구조의 예로 보도됐고, KT의 Token Factory 확대 맥락에서 언급됩니다.
다음 단계는 자사 사용량을 아는 것에서 시작합니다
인프라와 모델 사용 비용은 계약서 한 장으로 정리되지 않습니다. 어떤 항목이 고정비이고 어떤 항목이 사용량에 따라 움직이는지 먼저 구분해 두면, 다음 분기 계획을 세울 때 다시 처음부터 계산하지 않아도 됩니다.
편집 데스크
- [email protected]
- +82 2-531-5731
- Meir 50, 2000 Antwerpen, Belgium
- 월요일–금요일 09:00–18:00