[슈퍼브 인사이트] 나만의 AI 서비스, 직접 만들어볼 수 있을까요?🥸

🌟 SUPERB Spotlight

😎비개발자가 ChatGPT 앱을 만들며 배운 것들

본 글은 Medium의 'Field notes from building a ChatGPT app as a non-technical builder'를 편집한 것으로 전체 내용은 원글을 참고해 주세요.

AI가 점점 대중화되면서 “나도 AI로 서비스를 만들어볼 수 있을까?”라는 질문을 하는 사람들이 늘고 있습니다. 단순히 ‘AI를 어떻게 잘 사용할까’에서 한 걸음 더 나아간 방향이라고 생각되는데요.

개인화된 AI 에이전트와 다양한 AI 서비스가 빠르게 등장하고 있지만, 막상 내 상황에 꼭 맞는 서비스를 찾기란 쉽지 않죠. 예전에는 시중에 있는 AI 도구들을 최대한 용도에 맞게 조합해 쓰는 것이 최선이었다면, 이제는 ‘없다면 직접 만들지!’라는 선택지가 더 현실적이고 접근 가능한 시도가 되어가고 있는 것 같습니다. 

이번 아티클은 엔지니어가 아닌 기획·디자인 배경의 창작자가 ChatGPT 기반 앱을 직접 만들어보며 남긴 기록인데요. 복잡한 기술 설명보다는, 실제로 부딪히며 깨달은 시행착오와 인사이트가 중심으로 공유해드리겠습니다 😄

1. 생각보다 훨씬 쉬운 AI 앱 만들기?!

처음에 AI 앱 개발은  고급 프로그래밍 능력을 요구할 것이라 생각했지만, 실제로 최근에는  노코드·로우코드 도구와 ChatGPT API만으로도 충분히 프로토타입을 만들 수 있는데요. 그리고 Lovable, Cursor, FlutterFlow 등 최근 코딩의 패러다임을 바꾸고 있는 에이전트 들도 있죠. 아티클에서는 그 중 가장 접근성이 좋은 ChatGPT를 선택했습니다. 무엇을 선택했든 간에,중요한 것은 코딩 실력보다 “무엇을 해결하고 싶은지”를 명확히 정의하는 일이었는데요.
즉, AI 모델을 직접 만드는 것이 아니라, 아래 4 가지를 정리하는 것이 출발점이었습니다.

• 이미 잘 학습된 모델(ChatGPT)을
• 어떤 맥락에서
• 어떤 사용자에게
• 어떤 방식으로 쓰게 할 것인가

2. 가장 어려웠던 건 기술이 아니라 ‘UX’

흥미로운 점은, 기술적인 구현보다 사용자 경험(UX) 설계가 훨씬 어려웠던 것이었다는 점인데요.
AI는 질문을 어떻게 하느냐에 따라 전혀 다른 답을 내놓기 때문에, 사용자가 무엇을 입력해야 하는지 헷갈리지 않도록 안내하는 구조가 매우 중요하죠. 프롬프팅 기법, 프롬프팅 엔지니어링과 같은 프롬프팅을 잘하는 법에 대한 니즈가 많아진것도 이러한 이유일 것입니다.

아티클에서는 이를 통해 다음과 같은 사실을 깨달았다고 말하는데요.

• 사용자는 AI가 “무엇을 할 수 있는지” 모른다.
• 자유 입력창 하나만 던져주면 대부분 아무것도 하지 못한다.
• 좋은 AI 앱은 “질문을 대신 만들어주는 앱”에 가깝다.

단순한 채팅 UI보다, 선택지, 예시 질문, 단계별 입력 가이드를 제공하는 쪽이 훨씬 효과적이라고 합니다.

3. 프롬프트는 ‘마법의 문장’이 아니라 설계의 문제

많은 사람들이 프롬프트(prompt)를 비밀 레시피처럼 생각하지만, 다른 관점을 제시하고 싶은데요. 좋은 프롬프트는 한 문장의 요령이 아니라, '맥락(context)을 어떻게 쌓느냐의 문제'라는 것입니다.

• 사용자 입력
• 앱의 목적
• 이전 대화 내용
• 시스템 메시지(역할 설명)

이 모든 요소가 합쳐져 하나의 프롬프트 환경을 만들고, 이 환경이 곧 AI의 행동을 결정합니다.
즉, 프롬프트 엔지니어링은 글쓰기라기보다 제품 설계에 가깝다는 인사이트를 얻을 수 있었습니다.

4. AI는 ‘정답 생성기’가 아니라 ‘확률적 파트너’

한편, AI가 항상 일관되고 정확할 것이라는 기대를 빠르게 버리는 것이 좋을 때도 있는데요. 같은 질문에도 답이 달라질 수 있고, 때로는 틀린 정보를 그럴듯하게 말하기도 하죠. 오늘날 우리가 항상 경계해야 하는 부분이 바로 이 부분인데요. 이러한 경험을 통해 얻은 중요한 교훈은 다음과 같습니다.

• AI는 정답을 보장하지 않는다.
• 따라서 검증·수정·재시도 흐름이 반드시 필요하다.
• 사용자에게도 “AI가 실수할 수 있다”는 인식을 자연스럽게 전달해야 한다.

즉, AI 앱은 완벽한 자동화 도구가 아니라, 사람과 함께 사고하는 보조 도구로 설계되어야 한다는 관점입니다.

5. 비기술자의 강점은 오히려 ‘사람 중심 사고’

아이러니하게도,  비기술자였기 때문에 더 잘할 수 있었던 부분도 있었는데요. 엔지니어링 구현보다, 사용자의 맥락·불안·혼란을 먼저 떠올렸기 때문입니다.

• 사용자가 어디서 막힐지
• 어떤 표현을 어려워할지
• 어떤 순간에 “이건 나랑 안 맞아”라고 느낄지

이런 고민이 AI 앱의 완성도를 크게 높일 수 있었고, 이는 기술 숙련도와는 별개의 역량이죠.

AI 시대의 ‘만드는 사람’은 달라지고 있다

이 아티클이 전하는 핵심 메시지는 분명합니다. 이제 AI 앱을 만드는 데 꼭 엔지니어일 필요는 없다는 것, 그리고 앞으로는 아래 능력들이 점점 더 중요해질 것이라는 이야기인데요.

• 문제를 정의하는 능력
• 사람의 행동을 이해하는 감각
• AI의 한계를 전제로 설계하는 태도

AI는 분명 진입 장벽을 낮추고 있지만, 그만큼 “무엇을 만들 것인가”에 대한 고민의 깊이가 제품의 완성도를 좌우합니다. 이 글은 AI를 처음 접하는 분들이나, 아이디어는 있지만 기술이 부담스러웠던 분들에게 지금이 바로 한 번 시작해볼 만한 시점임을 알리는 이야기이기도 합니다.

또한, 산업 현장에서 마주하는 문제를 해결하기 위해, 처음부터 과도한 엔지니어링을 투입할 필요는 없습니다. '무엇을 해결할지'와 빠른 검증부터 시작해도 충분하니까요. 그런 점에서 슈퍼브에이아이와 함께라면, 문제 해결을 아이디어를 현실로 옮기는 과정이 훨씬 수월해질 수 있을 것입니다 :) 

✏️ SUPERB Curation

슈퍼브 차문수 ML 엔지니어의 추천:
올리브영, 실서비스에 맞춘 sLLM(Small LLM) 구축 전략 공개

올리브영 기술 블로그에서는 대규모 범용 모델이 아닌, 실제 서비스에 최적화된 sLLM(Small Language Model)을 직접 구축하고 운영한 경험을 공유합니다. 이 글은 “왜 굳이 작은 LLM이 필요한가?”라는 질문에서 출발하여, 비용·지연 시간·운영 안정성 측면에서 대형 LLM의 한계를 어떻게 보완했는지를 현실적인 관점에서 풀어냅니다.

업무 도메인에 특화된 데이터로 학습한 sLLM을 도입해, 필요한 성능은 유지하면서도 추론 비용과 응답 시간을 크게 줄이는 방향을 선택하고, 특히 프롬프트 설계와 파인튜닝을 통해, 작은 모델에서도 충분히 실무에 활용 가능한 품질을 확보한 점이 인상적인데요. 이 글에서는 “무조건 큰 모델이 답은 아니다”라는 메시지를 분명히 전달합니다. 생성 AI를 실제 서비스에 적용하려는 팀이라면, 올리브영의 sLLM 전략은 현실적인 대안과 설계 방향을 고민해볼 수 있는 좋은 참고 사례가 될 것이라 생각합니다.

슈퍼브 김재현 Backend 엔지니어  추천:
OpenCode, 여러 AI 코딩 모델을 한 곳에서 사용하는 오픈 코딩 워크스페이스

OpenCode는 다양한 AI 코딩 모델을 하나의 인터페이스에서 활용할 수 있도록 설계된 오픈소스 AI 코딩 플랫폼입니다. 특정 벤더나 단일 모델에 종속되지 않고, 여러 모델을 상황에 맞게 선택해 사용할 수 있도록 지원하는 것이 특징인데요. 이를 통해 개발자는 코드 작성, 수정, 리뷰 과정에서 가장 적합한 AI 도구를 유연하게 조합할 수 있습니다.

특히 OpenCode는 로컬 우선(Local-first) 설계를 지향해, 코드와 데이터가 외부로 불필요하게 전송되지 않도록 고려되었는데요. 이는 보안과 프라이버시가 중요한 환경에서 AI 코딩 도구를 도입하려는 팀에게 매력적인 선택지가 될 수 있습니다. 또한 오픈소스 기반으로 개발되고 있어, 커스터마이징과 확장이 자유롭다는 점도 장점입니다. AI를 개발자의 보조 도구로 자연스럽게 녹여내고 싶은 팀이라면, 앞으로의 발전을 눈여겨볼 만한 프로젝트입니다.