Primes's Infra Tech

최근 RAG에 관심을 가지고 관련 자료를 수집하던 중, MCP 라는 것이 정말 눈에 띄게 많이 보이기 시작해서 알아보기로 했다. RAG와 MCP는 방향성이 완전히 다르지만, 이 도구들을 잘 활용해야만 IT 업계에서 나아갈 수 있을 것으로 여겨진다. 본격적으로 MCP 를 파보고자 하는 것은 아니고, 이러한 기술이 있으니 내가 이것을 어떻게 활용해 나가볼 수 있을까에 대한 고찰이다.   MCP?MCP 는 LLM 생성형 AI에 도구를 쥐어주기 위한 프로토콜이라고 볼 수 있겠다. 기존의 LLM 은 사용자의 질문에 대해 답변을 하는 방식으로밖에 생산성을 가지지 못했다. MCP 는 이 한계점을 뚫기 위한 도구로, 이것이 준비됨으로써 LLM 이 본격적으로 App 이 될 수 있는 준비 상태에 있다고 볼 수 있겠다. 기..

사내 프로젝트로, 네이버 클라우드 플랫폼의 수많은 사용자 가이드에 대해 대응할 수 있는 AI 챗봇을 개발중이다.AI 개발에서 필수적인 과정은 학습 데이터를 수집하는 과정이다. 따라서 네이버 클라우드의 사용자, API, CLI 가이드 의 내용을 모두 수집할 수 있는 bot 을 만들기로 결정하고 진행했다. 대략 1만개가 넘는 엄청난 숫자의 페이지였는데, 이것을 사람 손으로 일일히 수집하기란 어마어마한 수고가 들 수 밖에 없다. 또한, 새로운 데이터가 업데이트 되었을 때도 사람 손으로 데이터를 수정하기란 쉽지 않은 일이다. 결과적으로는 이 bot으로 데이터셋을 관리함으로써 큰 도움이 되었다. 구현에는 Python 을 사용했고, Playwright와 BeautifulSoup 라이브러리를 활용했다. 구현 과정네이..

오랜만의 주저리주저리 쓰는 일기 포스팅이다. 24년에는 이제보니 목표 정하기를 했었구나 싶다 ㅎㅎ 올해도 물론 목표는 있다. 굳이굳이 블로그 포스팅에 다짐하듯이 쓰고싶지는 않은 기분이라 쓰고있진 않지만 마음에 새겨는 두고 있다. 무엇보다 24년 말~25년 초는 내게 알게모르게 버거운 해였다. 24년 11월 즈음부터 25년 1월까지, 몸이 왜인지모르게 무겁게 짓누르듯이 느껴질 때가 있었고 정신도 그에 따라 조금 약해진 면모가 있었다. 일기를 한번씩 쓰는 편인데, 당시에 써내렸던 일기들은 매일을 견디는 삶을 살고 있었던 듯하다. 결론부터 말하자면 지금은 정말 좋아졌고 오히려 인생 그 어느 때보다 멘탈이 좋아져 즐거운 날을 보내고 있다. 고작 3개월 만에 인생 슬럼프를 탈출했다니 참으로 나 자신이 대견하지 않..

클라우드 아키텍처에서는 MSA 방식을 지향하는 편이 많다. 거대한 플랫폼 내에서 수많은 기능들이 오고가며 내부에서는 서버들이 통신을 수행하게 되는데, 여기서 API Gateway 는 고속도로의 톨게이트 같은 역할을 하게 된다. 수많은 MSA 아키텍쳐들이 원활하게 API 를 정리하여 호출할 수 있도록 교통 정리를 하는 셈이다. 따라서 큰 규모, 지속 가능한 아키텍처를 구성하고 싶다면 이 API Gateway 라는 서비스는 필수적으로 사용되어야 하겠다. 자, 그렇다면 API 라는 개념에 대해 우선 간단하게 짚어보도록 하자.   API?애플리케이션과 애플리케이션 간 원활하게 대화를 할 수 있도록 하는 "규칙" 과 같다.우리가 실생활에서 같은 언어를 사용하지 않으면 대화가 원활하지 못하듯이, 각 아키텍처의 프로..

SSL 인증서는 TLS 프로토콜을 사용한 웹 브라우저와 웹 서버 간 데이터를 암호화하여 보안 연결을 제공하는 디지털 인증서이다. 이 인증서는 HTTPS 통신에 있어 필수적이며, 웹 운영에 있어서는 필수적인 존재가 되었다.이 SSL 인증서는 종류도 여러가지인데, 단일 / 와일드카드 / 다중 으로 나뉜다. 이에 대해 정리해보고자 한다. 인증서를 알아보기에 앞서 SSL(Secure Sockets Layer) 보안에 대한 개념을 간단하게 짚고 넘어가자. SSL 통신 방식SSL=TLS최근에는 TLS 라고 하지만, 인증서에서는 TLS라고 하지 않고 SSL 인증서라고 한다. 암호화 / 인증 / 무결성 같은 당연한 얘기는 넘어가고, 개념과 구조에 대해서 파악해본다. SSL은 TCP 의 3-way handshake 와 ..

IPsecVPN 은 실제 인프라 구축에 있어 매우 많이 이용되는 장비이다.이에 대한 요구사항이 많은 만큼, 개념을 확실하게 잡고 가기 위해 포스팅을 작성한다. 네이버 클라우드 플랫폼에서도 IPsecVPN 을 제공 중으로, 먼저 장비에 대한 개념을 짚은 다음, 클라우드상에서의 IPsecVPN 서비스에 대해 알아보도록 한다.  IPSec VPN에 대한 기본 개념간단하게 먼저 요약해보자면, IPsecVPN 은 외부 인터넷에서 안전한 보안 통신을 할 수 있도록 지원하는 장비이다. 가장 많이 사용되는 사례로는, 사설망 간 통신에서 사용된다.  사설망 내부의 서버, Load Balancer 등의 리소스들은 외부 인터넷과 통신할 수 없다.여기서, 이렇게 폐쇄된 환경의 사설망들끼리 통신이 필요한 요구사항이 매우 빈번하..

최근 프로젝트를 통해서 RAG 모델을 구축 진행해보았다. 목적은 네이버 클라우드의 사용자 가이드를 취합해 답변하는 bot 을 생성하는 것으로, 모두 네이버 클라우드의 인프라로만 구축하였다. 이 포스팅에서 핵심적으로 다루게 될 부분은 CLOVA Studio 서비스의 [스킬 트레이너] 기능이다.  Studio Chatbot Architecture아키텍처의 구성도는 대략 다음과 같다. API Server : Cloud FunctionsWeb Server : ApacheDatabase : Excel, Object StorageAI : CLOVA StudioEmbedding : CLOVA Studio Embedding API 구현했던 bot 의 아키텍처를 간단하게 그려보면 위와 같다. 내부 구성은 대략 다음과 같..

프로젝트를 진행하며 활용 중인 스킬 트레이너에 대해 작성한다. 사실 이 기능은 네이버 쪽 가이드만 봐서는 긴가만가한 부분이 많다. 그래도 먼저 사용 가이드를 쭉 보는 것을 추천한다. 스킬 트레이너 화면 (ncloud-docs.com) 스킬 트레이너 화면 guide.ncloud-docs.com 스킬 트레이너는 단적으로 말하면, 외부 API 를 가져와 LLM 에게 학습시켜 해당 데이터를 활용해 답변할 수 있도록 하는 것이다. 즉, 데이터를 제공할 수 있는 API 를 사용해야만 한다. AI 특화 학습을 할 때 흔히들 알고 있는 파인튜닝(Fine-tuning)과는 조금 다른 개념이다. 파인 튜닝은 CLOVA Studio 에서는 [튜닝] 기능으로 활용하면 된다. 튜닝의 경우에는 다량의 학습 데이터셋을 직접 주입시..

최근, 프로젝트를 진행하면서 네이버 클라우드의 CLOVA Studio 서비스를 활용하게 되었다. Studio 서비스는 본래 클로즈 베타 서비스로 운영하다가 이제 오픈 베타로 전환되면서 사용자가 더욱 늘어날 것으로 보이지만 생각보다 참고할 자료는 많지 않은 상황이다. 나는 NCAI 공인 교육을 수강했고, 네이버 클라우드에서 진행하는 세미나를 듣는 등 여러 기초학습을 진행한 뒤 현재 프로젝트에서 직접 빌드를 짜보는 등 실습을 진행해보고 있다. 학습하는 과정을 기록해보며 복습, 그리고 도움이 될 만한 부분들을 정리하여 업로드한다. LLM과 CLOVA Studio 서비스에 대해 Studio 서비스는 익히 우리가 알고있는 ChatGPT 와 동일한 LLM 모델이다. 다만 실제로 프로젝트를 진행하고 실습을 해보며 느..

2일차 쓰고 한참 지나 작성하게 됐다. 요즘 블로그가 아니라 신경 쓸 곳이 많아서 짬짬히 쓰다보니 계속 밀리게 된다. 그래도 여행의 기록만큼은 꼭 잘 남기고 싶은 마음이다. 흔히 많이들 가는 루트로 다녔다. 텐진 -> 야나가와 뱃놀이 -> 라라포트 후쿠오카 -> 하카타 역 쇼핑 루트이다. 원래는 이 날 야나가와 갔다가 다자이후를 가려고 했는데, 비가 갑자기 오고 쇼핑을 필요로 하길래 노선을 틀었다. 뱃놀이는 오후 2시 반 까지밖에 운영을 안 해서, 아침일찍 이동했다. myroute 앱으로 미리 야나가와 - 다자이후 패스를 사뒀는데, 이걸로 이동했다. 텐진 역에서 특급열차를 타고 눈감고 한숨 자면, 순식간에 야나가와에 도착한다. 역에서 내리고 5분정도만 걸으면 바로 뱃놀이 선착장이 나온다. 정말 한적한 동..