[LinkClip] 로컬 LLM 기반 AI 요약 기능 추가하기
·
회고
미리보기 LinkClip은 웹페이지 링크를 저장하고 태그로 분류하는 iOS 앱입니다.링크가 많아지면서 한 가지 문제가 생겼습니다. 저장한 링크의 제목만 보고는 어떤 내용이었는지 파악하기 어려웠고, 내용을 확인하려면 매번 원문을 다시 열어야 했습니다.이 문제를 해결하기 위해 링크 저장과 함께 웹페이지의 핵심 내용을 제공하는 AI 요약 기능을 개발했습니다.어떤 방식으로 AI 요약을 제공할 것인가가장 먼저 결정해야 했던 것은 요약 모델의 실행 위치였습니다.검토한 방식은 세 가지입니다.방식장점단점상용 AI API빠른 응답, 간단한 구현요청량에 따라 비용 증가사용자 API 키운영 비용 절감진입 장벽과 키 관리 문제자체 로컬 LLM 서버별도 API 비용 없음느린 추론과 서버 운영 필요OpenAI나 Gemini 같..