내 컴퓨터에서 AI 모델 돌릴 수 있을까? CanIRun.ai 사용법과 후기

CanIRun.ai 사이트를 이용해 컴퓨터가 AI 모델을 실행할 수 있는지 확인하는 유머러스한 3D 일러스트

안녕하세요, 에디터 쿼리즘입니다. 세상의 모든 이슈를 데이터로 쪼개다.

요즘 온디바이스 AI, 로컬 AI 모델 얘기 진짜 많이 들리죠? 💻 저도 "내 낡은 노트북으로도 LLaMA나 Mistral 같은 AI를 돌릴 수 있을까?" 싶어서 무작정 수십 기가짜리 파일을 다운로드했다가, 컴퓨터가 비명을 지르며 뻗어버린 슬픈 기억이 있습니다. 솔직히 저만 그런 거 아니죠?

그런데 말입니다. 이제 이런 무모한 도전을 더 이상 안 해도 되는 엄청난 도구가 등장했어요. 바로 브라우저 클릭 한 번으로 내 PC의 AI 구동 능력을 테스트해 주는 CanIRun.ai입니다! 와, 이건 진짜 대박이죠?

📌 에디터의 3줄 요약

CanIRun.ai는 내 컴퓨터(로컬 머신)에서 특정 AI 모델이 구동 가능한지 확인해 주는 웹 도구입니다.
브라우저의 WebGPU API를 활용해 별도의 설치 없이 하드웨어 성능을 빠르고 간편하게 추정합니다.
모델별 필요 메모리, 예상 토큰 처리 속도 등을 한눈에 볼 수 있어 여러분의 귀중한 시간과 헛고생을 막아줍니다!

CanIRun.ai, 도대체 어떤 녀석인가요?

과거에는 내 PC에서 무거운 AI 모델을 돌리려면 VRAM이 얼마인지, 시스템 메모리는 넉넉한지 일일이 스펙을 계산하느라 머리가 아팠습니다. 하지만 이 사이트는 다릅니다.

브라우저 기반 테스트:
무거운 진단 프로그램 설치? 전혀 필요 없습니다. WebGPU API를 통해 브라우저 상에서 바로 스펙을 읽어옵니다.
디테일한 모델 정보:
단순히 "된다/안된다" 수준이 아닙니다. 메모리 요구량부터 컨텍스트 길이, 토큰 처리 속도까지 꽤 디테일한 지표를 보여줘요.

100% 활용하는 단계별 사용법 🚀

어떻게 쓰는지 궁금하시죠? 생각보다 너무 간단해서 놀라실 수도 있어요. 아래 순서대로 따라 해보세요.

사이트 접속하기:
크롬이나 엣지 등 WebGPU를 완벽히 지원하는 최신 브라우저를 켜고 공식 사이트에 접속합니다.
권한 허용:
사이트가 하드웨어 가속(WebGPU)을 사용할 수 있도록 브라우저 권한을 확인하고 허용해 줍니다.
내 PC 스펙 스캔:
자동으로 내 GPU와 메모리 성능을 추정해 줍니다. (다만, API 기반 추정치라 실제 사양과 미세한 차이는 있을 수 있어요!)
원하는 AI 모델 검색:
LLaMA, Gemma 등 평소 돌려보고 싶었던 모델을 검색창에 입력하세요.
결과 판독:
초록색 불이 들어오면 합격! 만약 메모리 부족 경고가 뜬다면 깔끔하게 포기하는 게 정신 건강에 좋습니다. 😁

주요 AI 모델별 요구 사양 비교 (예시)

이해를 돕기 위해 우리가 자주 언급하는 대중적인 모델들의 대략적인 요구 스펙을 표로 정리해 봤어요.

모델명	최소 VRAM/메모리	추천 용도
Gemma 2B	약 4GB ~ 6GB	가벼운 문서 요약, 로컬 코딩 어시스턴트
LLaMA 3 (8B)	약 8GB ~ 12GB	일상적인 챗봇, 중간 규모의 데이터 분석
Mixtral 8x7B	최소 24GB 이상	전문적인 AI 개발, 대규모 프로젝트