AI 기술, ‘비개발자’가 알아야 할 트렌드 1

AI 기술 트렌드, 개발자와의 대화를 위한 넓고 얕은 지식

AI 기술 트렌드를 위해 찾아오신 여러분 안녕하세요, 사이냅소프트의 마케터 Alex입니다😎

마케터가 IT 도메인에 오면 해야 하는 것 3가지는 ①시장 알기 ②자사 알기 ③기술 알기인데요.

개발자, PM, IR심사역과 대화하기 쉬워지는 지식을 나누고 싶어서 찾아왔어요.

오늘은 ③기술 알기: ‘AI기술에 대해서 비개발자가 알아야 할 것‘ 을 주제로 이야기합니다.

이런 분들이 읽으시면 좋아요

시장 분석자료를 찾는 리서쳐
기획자 / UX UI 디자이너
B2B 마케터

AI 기술 트렌드, ‘비개발자’ 면 몰라도 될까요? 아니요.

산업의 AX(AI Transformation; AI전환)이 다가오고 있다고 말합니다. (사이냅소프트도 관련된 일을 하고 있죠. 사이냅소프트, “디지털 문서 활용 20여년 노하우로 기업 AX 지원”)

AI를 하게 된 개발자들은 ‘내가 네트워크나 클라우드를 평생 할 줄 알았지 NLP 하고 있을 줄은 몰랐다’, 이런 이야기를 점심시간에 하게 되는데요.

비개발자들은 무슨 이야기를 해야 할까요? AI 기업에 투자하는 개미투자자가 되는 것 말고도 우리가 할 일이 무엇이 있을까요?

잘 찾아오셨습니다. 오늘은 AI기술에 대해 비개발자가 알아야 할 트렌드에 대한 이야기를 하는 날입니다.

AI 기술 트렌드, 비개발자

본격적으로 AI 기술에 대해서 살펴보기 전에 우리가 AI 라는 주제를 어떠한 층위에서 살펴볼 수 있는지 생각해 보겠습니다.

개인의 층위: 주변에서 흔하게 접할 수 있게 된 생성형 AI 도구와 플랫폼부터 생각해보죠. 비개발자도 쉽게 사용할 수 있는 AI 도구와 플랫폼이 많이 있습니다. 2024 년 생성형 AI 소비 트렌드에 대해 다룬 요즘IT의 글을 읽어보세요. <생성 AI 서비스, 2024 ‘소비 트렌드’ 따라잡기(링크)>
비즈니스의 층위: AI의 도입을 전사적 차원에서 고민하게 되면 AI가 다양한 산업에서 어떻게 활용되는지 조사를 많이 하게 됩니다. 예를 들어, 의료, 금융, 제조, 서비스 등 다양한 분야에서 AI가 어떻게 혁신을 이끌고 있는지 알아보는 거죠. [2024 신년기획]대한민국 대전환, AX에 달렸다 – 전자신문 (etnews.com) 가 좋은 기사니 참조해보시면 좋을 것 같아요.
이 때 우리는 두가지 방향으로의 AI 도입 고민을 하게 됩니다. 내부 비즈니스 프로세스를 혁신하는데 AI를 사용할 것인지, 외부에 고객에게 나가는 서비스에 AI가 추가될 것인지요.
기술의 층위: AI를 본격적으로 회사의 비즈니스모델에 접목하게 되면 개발자라면 어떤 모델을 사용하게 될지 고민하겠지만, 비개발자도 알아야 할 영역이 있습니다. AI와 관련된 기술들이 어떻게 변하고 있고, 우리는 AI도입시에 비즈니스적으로 어떤 의사결정 상황에 자주 놓이게 될지에 관련된 영역을 알아야 해요.

이 세가지 항목이 연결되어 작용한다는 것은 이미 눈치 채셨을 거에요.

우리의 시대는 AI BLUR, 산업에 AI가 퍼지고 경계는 흐려지는 시대

스타트업 씬에서 투자를 받기 위해서라면 누구의 IR이든 AI가 들어가야 한다는 말이 돌던 2023년과 2024년 상반기였습니다. 그런데 그 행방이 2024년에서는 조금 더 바뀌었어요.

AI BLUR. 무슨 뜻이냐고요? AI가 모든 산업 도메인 분야에 퍼져 나가 ‘AI 라는 첨단 사업’과 우리가 알던 ‘유통, 제조, 패션, 의약, 금융, 교육 등의 산업 도메인’의 경계가 흐려진다는 뜻입니다.

2024CES AI 기술 트렌드

CES(소비자 가전 전시회)를 아시나요? 매년 1월, 라스베거스에서 열리는 세계 최대 규모의 ICT 융합 전시회입니다. 이 전시회에서 수많은 제품 프리뷰가 쏟아지며 새로운 제품들이 들어서고, 매년 그해의 관심 기술들이 쏟아져 나오는데요.

2023년은 AI, AI, AI였다면 2024년 1월 CES에서는 AI 빅테크 기업들이 아닌 회사들이 AI 주제로 메인을 장식했어요.

예를 들면 화장품 회사 로레알이나, 유통회사 월마트가 기조연설을 했습니다. 물리적으로 상호작용을 할 수 있는 제품과 물리적 환경을 가진 기업들이 AI를 접목했을 때의 영향력이 단순히 온라인 웹서비스 상에서 구현되는 AI 서비스들을 넘어선 가치가 있을 수도 있겠네요. AI에 대해서 반짝반짝 빛나는 AI 전문 빅테크 기업만 보고 있을 때가 아니며, 우리 산업의 AI도 남 일이 아니라는 생각이 듭니다.

2024 AI 기술 트렌드 바로보기: CES가지 않는 CES 패널 톡>

해당 유튜브 영상에서는 2024 CES 를 주제로 앞으로의 AI 산업과 투자가 어떻게 바뀔 것 같은 지 다루고 있습니다. 약간 기니까 시간이 나면 시청해보세요.

연구자들의 연구주제에서, 산업 현장 엔지니어의 도구가 된 AI

학문이었던 것이 사업이 되면 무엇이 바뀔까요?

AI 기술이 기준 이상의 정확도(Accuracy)를 달성하고 나서는, 속도와 비용이 중요하게 여겨지고 있습니다
DevOps, MLOps, LLMOps이 중요해졌습니다.
데이터를 확보하기 위한 경쟁과 기술이 발전하고, 가격이 오르고 있습니다.
스마트폰, AI스피커, CCTV 등의 IoT 환경에서도 사용할 수 있도록 기술이 발전합니다.
그러다 보니 전체적으로 경량화에 대한 고민도 생겼습니다.
도메인에 활용하기 위해서 RAG, 랭체인 등에 대한 고민이 생겼습니다.

전부는 오늘 다 다루기 어려워도 몇 개를 살펴 볼 거에요.

역시 돈, ‘AI 기술’ 을 우리 기업에 도입하는 비용에 관해서 생각할 때

네 저번 편(2024 생성형 AI 시장 브리핑: 리서치 중이라면 여기요🔍📈)처럼 또 돈에 대해 다룹니다.

정확히는 경영대학생이 수업 시간에 졸지 않았다면 기억할 고정비용 – 변동비용 말입니다.

오픈AI의 연간 학습 및 추론 비용, (출처: 오픈AI)

AI모델, 특히 LLM (Large Language Model)을 Training(학습)시키는 것은 고정비용에 가깝습니다. 한번 교육시킬 때 엄청난 돈이 들고, 교육을 다 시키고 나면 가끔 가다 추가학습을 시켜줄 때 비용이 들어갑니다.

운영을 할 때는 변동비용이 생깁니다. 이 부분을 Production(생산) 혹은 Inference(추론) 이라고 하죠. 생성형 AI에게 일을 시키고 결과값을 내놓으라고 할 때에도 우리는 GPU 자원을 소모해야 합니다. 그런데 이제 이 모델을 회사에서 더 많이 쓰면 많이 쓸수록, 그 비용도 비례해서 커질 거예요.

보통 우리는 왜 비즈니스를 키울까요? 규모의 경제를 위해서요. 비즈니스가 커지면 고정비용을 상회하는 수입을 얻을 것으로 기대합니다. 그런데 비즈니스가 커지면 따라 커지는 변동비용은 곤란할 수밖에 없죠. 기업의 수익률에 있어서 자꾸 발목을 잡게 되니까요.

그럼 추론 비용을 추가로 작게 만드는 방법은 뭐가 있을까요?

우선 모델을 가볍게 만드는 방법이 하나 있습니다(모델 경량화), 하드웨어를 더 좋은 걸 쓸 수도 있구요, 그 하드웨어에 추론 속도를 빠르고 효율적으로 하게 하는 부가기능이 있을 수도 있죠(사람들이 NVDIA이야기를 계속 하는 이유입니다). 또 모델 자체를 작게 만들거나(sLLM), 비용을 적게 쓰는 파인튜닝 LLM 등에 대한 관심도 이렇게 등장합니다. Fine-tuning LLMs for cost effective GenAI inference at scale | Tryolabs

AI 기술이 기준 이상의 정확도(Accuracy)를 달성하고 나서는, 속도와 비용이 중요하게 여겨지고 있습니다

우리는 모든 제품이 일정 이상의 품질을 달성하기 시작하면 이제 다른 걸 신경쓰기 시작해요. 가격이나, 내가 산 패키지 소프트웨어의 기술지원 속도나. (스마트폰으로 따지면 AS/CS 품질이겠죠?), UX UI 디자인, 브랜드 이미지 같은 걸요.

(출처: 이미지넷)

학계에서 첫 목표는 추론의 정확도(Accuracy)였습니다. 얼마나 의도한 것에 가깝냐 라는 품질을 위해서 여러 시도들을 하고요. 2010년도부터 컴퓨터 비전 분야에서 이미지넷 대규모시각인식 챌린지 ( ILSVRC ;ImageNet Large Scale Visual Recognition Challenge) 같은 대회가 생겼던 이유죠.

여전히 아카데믹한 부분에서 연구자들은 1%의 정확도를 높이기 위한 논문을 씁니다. 하지만 AI 엑스포에서 만나는 기업들은 이제 비용 절감 이야기와 속도 이야기를 해요.

교통 통제 시스템이 망가졌을 때 교통 통제 시스템이 망가졌군! 이라고 너무 늦게 인식하는 AI는 현장에서 사용할 수 없어요. 무언가 질문해야 할 때마다 약간의 정확도를 높이기 위해서 아주 거대한 모델을 돌리는 것도 빠르고 직관적인 판단이 필요할 때는 오히려 비효율 적입니다. 우리가 개발자들의 모델 비교와 특정 모델과 특정 디바이스에서의 최적화 궁합 등을 다 알 필요 없지만, 이렇게 흐름이 가고 있다는 것만 알아도 대화할 때 도움이 되겠죠.

그때 등장하는 것이 모델 경량화, sLLM 등인데요, 이번 특집 2부에서 마저 보시죠.

AI 기술, ‘비개발자’가 알아야 할 트렌드 2 (링크)

AI 시장 현황, AI 기술 트렌드 by Alex 시리즈

1. 시장알기: 2024 생성형 AI 시장 브리핑: 리서치 중이라면 여기요🔍📈

2. 기술 알기: AI 기술, ‘비개발자’가 알아야 할 트렌드 1

3.기술 알기: AI 기술, ‘비개발자’가 알아야 할 트렌드 2

Alex는 누구인가요?

사이냅소프트의 마케터 Alex는 Designthinking FT 기업과 AI 교육 기업에서 일하며 기술 커뮤니케이션을 해왔습니다. Alex는 개발자가 비즈니스에 대해, 비개발자가 개발에 대해 쉽게 이해할 수 있는 컨텐츠를 만들고 상호 커뮤니케이션에서 시너지가 나도록 노력합니다.

지금은 TIL(Today I Learned): 깃헙 대신 블로그에서 잔디를 심는 🌱🌱🌱 중인데요, 사이냅소프트웨어나 위 내용이 더 궁금하시다면 mkt@synapsoft.co.kr로 연락주세요.