AI는 골라 쓰고, 가속은 빌려 씁니다

클라우드 API, CPU에서 도는 로컬 모델, 무료 원격 GPU. 탭마다 제공자를 따로 고를 수 있습니다.

OpenAI

API 키를 넣으면 숏폼 기획과 자막 번역의 AI 응답을 OpenAI 모델이 맡습니다.

클라우드 API

Gemini

구글 Gemini API로 숏폼 구성안 작성과 자막 번역을 처리합니다.

클라우드 API

Claude

Anthropic Claude API로 긴 대본을 다루는 숏폼 기획이나 자막 번역을 돌립니다.

클라우드 API

로컬 LLM

0.5B에서 7B급 소형 instruct 모델을 CPU에서 직접 돌립니다. API 키도, 인터넷도 필요 없습니다.

내 PC, CPU

캐글 원격

무거운 모델 추론이나 고해상도 업스케일을 캐글 커널의 GPU나 TPU로 넘깁니다.

원격 GPU, TPU

다섯 개 중 하나는 반드시 공짜입니다. API 키를 하나도 넣지 않아도 로컬 LLM으로 대화가 되고, 영상과 이미지 생성은 애초에 클라우드를 안 씁니다. 나머지 넷은 필요할 때 켜는 선택지입니다.

Offload

그래픽카드를 사는 대신, 잠깐 빌립니다

로컬에서 다 되게 만드는 게 원칙이지만, 물리적으로 안 되는 구간이 있습니다. Real-ESRGAN 업스케일링은 Vulkan 전용이라 CPU 폴백 자체가 없고, 13B급 영상 모델은 4코어 CPU로 몇 시간을 돌려도 안 끝납니다.

그래서 그 구간만 떼어 캐글 무료 커널로 보냅니다. 상시로 쓰는 게 아니라 필요할 때 켜는 보험입니다. 안 켜면 앱은 그대로 전부 로컬에서 돌아갑니다.

기능 목록으로

가속기 직접 선택GPU · TPU · CPU

작업마다 어떤 하드웨어로 돌릴지 고릅니다. GPU 할당량이 떨어졌으면 CPU 커널로 돌려도 되고, 잘 맞는 작업은 TPU로 보냅니다. 커널 메타데이터의 가속기 플래그까지 앱이 직접 만듭니다.

램 분산

모델을 한 덩어리로 올리지 않고 나눠 올립니다. 무료 커널의 메모리 한도 안에서 더 큰 모델이 들어갑니다.

데이터셋 캐싱

같은 모델을 매번 허브에서 다시 받지 않습니다. 캐글 데이터셋에 올려 두고 재사용하면 커널 부팅 시간이 크게 줄어듭니다.

가속 프로필 저장

가속기·램 분산·데이터셋 캐싱 조합을 이름 붙여 저장합니다. 매번 같은 값을 다시 고르지 않아도 됩니다.

원격으로 돌릴 수 있는 것프레임 · 오디오 · TTS · 챗

영상 프레임 생성, 오디오 생성, TTS 합성, 챗 응답을 각각 원격으로 보낼 수 있습니다. 결과 mp4 인코딩까지 커널에서 끝내고 파일만 받아 오는 경로도 있습니다.

병렬 실행과 실시간 상태

여러 작업을 동시에 띄워 두고 실행 중·완료·대기 상태를 한 화면에서 봅니다. 실패한 작업은 원본 설정 그대로 다시 넣을 수 있습니다.

Big models

13B급 영상 모델을 무료 커널에 밀어 넣는 법

HunyuanVideo 13B나 Mochi-1은 무료 커널에도 그냥은 안 들어갑니다. 저장소에 fp32와 bf16 가중치가 같이 올라가 있고, 파이프라인을 통째로 올리면 디코딩 전에 메모리가 먼저 터집니다.

그래서 통째로 올리지 않고 네 단계로 쪼개 올렸다 내립니다. 이 순서를 지켜야 무료 커널에서 생성이 끝까지 돌아갑니다.

선별 다운로드

저장소 전체를 받지 않고 실제로 쓰는 샤드만 고릅니다. 같은 가중치의 fp32 사본과 원본 포맷 사본을 걸러내는 것만으로 수십 GB가 빠집니다.

텍스트 인코더 먼저 해제

프롬프트를 임베딩으로 바꾼 다음에는 텍스트 인코더가 더 필요 없습니다. 트랜스포머를 돌리기 전에 먼저 메모리에서 내립니다.

트랜스포머 해제 후 VAE 디코딩핵심

잠재 표현이 다 나오면 트랜스포머를 내리고, 그 자리에 VAE만 올려 디코딩합니다. 순서를 안 지키면 정확히 이 지점에서 메모리가 부족해집니다.

커널에서 mp4로 인코딩해 회수

프레임을 낱장으로 내려받지 않고 커널 안에서 인코딩까지 끝냅니다. 내려받는 건 완성된 영상 파일 하나입니다.

Architecture

저사양 하드웨어를 기준으로 설계된, 흔치 않은 로컬 우선 아키텍처

쉽게 말하면, 좋은 컴퓨터를 가진 사람을 기준으로 만든 게 아니라 평범한 컴퓨터를 기준으로 먼저 만들고 느린 구간만 따로 떼어 원격 GPU로 넘길 수 있게 했다는 뜻입니다. 아래는 그 구조를 자세히 풀어 놓은 내용입니다.

대부분의 AI 영상 생성 도구가 고가의 GPU나 클라우드 구독을 전제로 하는 것과 달리, video maker는 처음부터 외장 GPU가 없는 저사양 CPU와 내장 그래픽 환경을 최소 사양으로 잡고 만들었습니다. RIFE 프레임 보간은 CPU와 내장 그래픽을 함께 쓰는 하이브리드 가속으로 구현했고, Vulkan 전용이라 CPU 폴백이 없는 Real-ESRGAN 업스케일링 구간만 선택적으로 캐글 원격 GPU로 넘길 수 있게 떼어 두었습니다.

생성 파이프라인은 기본적으로 완전히 로컬에서 돌아갑니다. AI 응답이 필요한 숏폼 기획과 자막 번역에서는 OpenAI, Gemini, Claude 같은 클라우드 API부터 0.5B~7B급 소형 instruct LLM을 CPU에서 직접 돌리는 로컬 모델, 그리고 캐글 원격 모델까지 상황에 맞게 골라 쓰면 됩니다. 내부적으로는 customtkinter 기반의 기존 GUI에서 PySide6 기반의 새 GUI로 이관이 진행 중이고, 두 GUI가 같은 설정 파일과 프로젝트 파일 포맷을 공유해 어느 쪽을 켜도 작업이 그대로 이어집니다.

RIFE, CPU와 내장 그래픽 하이브리드

프레임 보간은 CPU와 내장 그래픽을 함께 쓰는 하이브리드 가속으로 구현해, 외장 GPU 없이도 로컬에서 끝납니다.

로컬 완결

Real-ESRGAN, 선택적 오프로드

Vulkan 전용이라 CPU 폴백이 없는 업스케일링 구간만 따로 떼어, 필요할 때 캐글 원격 GPU로 넘길 수 있게 했습니다.

필요할 때만 클라우드

두 GUI, 같은 파일 포맷

customtkinter 기반 기존 GUI와 PySide6 기반 새 GUI가 같은 설정 파일과 프로젝트 파일을 공유해, 어느 쪽을 켜도 작업이 그대로 이어집니다.

호환 유지

AI는 골라 쓰고, 기본은 내 PC에서

API 키가 없어도 로컬 모델로 바로 시작됩니다. 클라우드는 필요할 때만 켜면 됩니다.