용어 풀이
본문에 나오는 기술 용어를 한 줄 정의와 함께 쉬운 말로 풀었습니다. 읽다가 막히는 용어가 있으면 이 페이지를 참조해 주십시오.
LLM (대규모 언어 모델)
방대한 텍스트로 학습되어 글을 읽고 쓰는 인공지능 모델.
쉽게 말하면 — ChatGPT 같은 "글을 이해하고 만들어내는 AI"의 통칭입니다.
파인튜닝 (Fine-tuning)
이미 학습된 모델을 우리 회사 데이터로 추가 학습시켜 우리 업무에 특화시키는 것.
쉽게 말하면 — 다 배우고 온 신입사원에게 우리 회사 업무를 가르치는 과정입니다.
LoRA / QLoRA
모델 전체가 아니라 일부 파라미터만 저비용으로 학습하는 경량 파인튜닝 기법.
쉽게 말하면 — 전체 재교육 대신 필요한 과목만 짧게 보충수업하는 방식. 시간과 비용이 크게 줄어듭니다.
RAG (검색 증강 생성)
사내 문서를 검색해서 그 근거를 바탕으로 답변을 생성하는 방식.
쉽게 말하면 — 회사 문서를 전부 읽어둔 사서에게 물어보는 것. 답과 함께 출처 문서를 보여줍니다.
Text-to-SQL
자연어 질문을 데이터베이스 질의(SQL)로 자동 변환하는 기술.
쉽게 말하면 — "이번 분기 A고객사 미처리 AS 몇 건?"이라고 말로 물으면 전산 조회를 대신 실행해 주는 기능입니다.
온프레미스 (On-premise)
외부 클라우드가 아닌 회사 내부 인프라에서 직접 운영하는 방식.
쉽게 말하면 — 남의 건물(클라우드)을 빌리는 대신 우리 사무실에 장비를 두는 것. 데이터가 밖으로 나가지 않습니다.
PIPA (개인정보보호법)
개인정보를 국외로 이전하면 별도 동의 확보 · 기록 의무 등이 발생하는 법률.
쉽게 말하면 — 고객 데이터를 해외 서버로 보내려면 복잡한 법적 절차가 필요합니다. 안 보내면 그 절차 자체가 사라집니다.
데이터 주권 (Data Sovereignty)
데이터를 우리 회사의 통제 범위 안에 두고 관리하는 것.
쉽게 말하면 — 고객에게 "귀사 데이터는 저희 건물 밖으로 나가지 않습니다"라고 사실 그대로 답할 수 있는 상태입니다.
벤더 종속 (Vendor Lock-in)
특정 업체 서비스에 의존해 그 업체의 가격 · 정책 변화에 끌려가는 상태.
쉽게 말하면 — 임대료가 올라도 이사 갈 수 없는 세입자 처지가 되는 것입니다.
메모리 대역폭
초당 메모리에서 읽고 쓸 수 있는 데이터량. LLM 응답 속도를 결정하는 핵심 병목.
쉽게 말하면 — 연산력이 "엔진"이라면 대역폭은 "도로 폭". 도로가 좁으면 좋은 엔진도 빨리 달릴 수 없습니다.
토큰 · tok/s
토큰은 AI가 글을 만드는 최소 조각, tok/s는 초당 생성하는 토큰 수(응답 속도).
쉽게 말하면 — 50 tok/s면 사람이 읽는 속도보다 빠르게 답이 나오고, 2.7 tok/s면 한 문장 나오는 데 십여 초 걸립니다.
FP4 / FP8
숫자를 낮은 정밀도로 표현하는 연산 형식. 낮을수록 더 큰 모델을 적은 메모리로 구동.
쉽게 말하면 — 숫자를 간략히 적어서 같은 메모리에 더 큰 AI를 넣는 압축 기술입니다.
MoE (전문가 혼합 모델)
토큰마다 전체가 아닌 일부 파라미터만 활성화되어, 대형 모델이어도 상대적으로 빠름.
쉽게 말하면 — 전 직원이 아니라 그 안건의 담당자만 회의에 들어오는 방식. 조직이 커도 회의는 빠릅니다.
PoC (개념 실증)
본격 투자 전에 소규모로 실제 효용을 검증하는 실증 프로젝트.
쉽게 말하면 — 본 계약 전의 시식 코너. 맛을 보고 나서 더 살지 결정합니다.
Capex (자본적 지출)
구독료처럼 계속 나가는 비용이 아니라, 한 번 지출하면 자산으로 남는 일회성 투자.
쉽게 말하면 — 월세가 아니라 한 번 사서 내 것이 되는 비용입니다. 이후에는 전기료만 듭니다.
통합메모리 (Unified Memory)
CPU와 GPU가 하나의 메모리 풀(128GB)을 공유하는 구조. 파인튜닝 작업에 유리.
쉽게 말하면 — 두 작업자가 각자 창고를 쓰며 물건을 옮겨 나르는 대신, 큰 창고 하나를 같이 쓰는 구조입니다.
부록 B(참고 출처) · 부록 C(가정 및 확인 필요 사항)는 기획 본문서(DGX_Spark_투자심의_기획서)에 수록되어 있습니다.
목차로 돌아가기