728x90 인공지능46 DeepPCR : Parallelizing Sequential Operations in Neural Networks 리뷰 안녕하세요 Simon 입니다. 애플이 AI 쪽으로 많이 약하다는 평가가 항상 있는데 슬슬 시동을 거는듯 해보입니다. DeepPCR 이라고 신경망관련해서 기술 개선을 한 논문을 발표를 해서 가져와봤습니다. 애플 공식 홈페이지 머신러닝 리서처에도 올라갔습니다. Introduction 오늘날의 머신러닝과 딥러닝 연구는 복잡성이 증가함에 따라 효율적인 계산 방법에 대한 필요성이 점점 더 커지고 있습니다. 이러한 맥락에서 최근 발표된 논문 "DeepPCR: Parallelizing Sequential Operations in Neural Networks"는 주목할 만합니다. 이 논문은 신경망에서 전통적으로 순차적으로 처리되던 연산을 병렬화하는 새로운 알고리즘, DeepPCR을 제안합니다. Abstract Deep.. 2023. 12. 18. 인간의 지능을 넘은 초지능(Superintelligence) 제어: 오픈AI의 새로운 AGI 감독 방법론 공개 안녕하세요, Benjamin입니다. 오늘은 OpenAI에서 새로운 AGI(인공일반지능) 제어 방법론을 발표했다는 소식을 듣고 전해드리려고합니다. 이제 초거대 AI를 넘어 스스로 생각하는 AGI시대가 열린다는 기사를 여러번 접했었는데, 이번 연구를 통해 인간보다 뛰어난 지능을 가진 AI를 어떻게 제어할 수 있는 지에 대해 본격적으로 생각해보게 되었습니다. Open AI의 이번 발표는 기존의 AI 연구 방향과는 다른 새로운 접근 방식을 제시합니다. 간단히 말해, '약한 감독자' 즉, 저지능의 모델이 더 강력한 AI 모델을 어떻게 효과적으로 감독하고 제어할 수 있는지에 대한 연구인데요. OpenAI 연구팀은 GPT-2 수준의 모델로 GPT-4와 유사한 감독 성능을 달성했다고 합니다. 이는 비록 작은 모델이지만.. 2023. 12. 18. Nature's 10 올해를 빛낸 10인의 과학자 중 비인간 1명 ChatGPT 2023년 12월 14일, 세계적인 과학 저널인 《자연》(Nature)은 2023년의 10대 과학 인물을 발표했다. 이 중에는 흥미롭게도 한 개의 인공지능 모델이 포함되어 있었다. 바로 OpenAI에서 개발한 대규모 언어 모델인 ChatGPT이다. 이외에도, 과학 분야에 괄목할 만한 성과를 거둔 10명의 인물이 선정되었다. 그들의 혁신적인 업적은 다음과 같다. 카르파나 카라하스티(Kalpana Kalahasti)는 인도 우주 연구 위원회(ISRO)의 "달나라 탐사선" 프로젝트의 부책임자이다. 그녀는 이 프로젝트를 통해 인도 최초로 달 표면에 착륙하는 데 성공했다. 안니 크리체르(Annie Kritcher)는 미국 국립 점화 장치(NIF)의 수석 설계자이다. 그녀는 NIF를 통해 핵융합 에너지를 실현하기 .. 2023. 12. 15. [Langchain] 평점기반의 맛집 RAG LLM 구축하기 안녕하세요 Simon 입니다. 이번에 소개해드릴 컨텐츠는 Langchain 을 활용해서 보다 쉽게 RAG 서비스를 구축하는 방법입니다. 다들 맛집 좋아하실텐데 평점을 얼마나 믿으시는지는 모르겠습니다. 사실 구축단계에서 한국 사람들이 아무래도 네이버라는 플랫폼을 많이쓰고 신뢰하고 정보도 많기 때문에 NAVER API 를 활용하고 싶었으나, 진짜 감촉같이 이거 조금만 api 데이터쓰면 item 이다 할만한것만 지원을 하지 않는 모습이더라구요. 그래서 더욱 범용적인 Google maps 를 활용해서 만들어보았습니다. 이전에 사실 카카오톡맵기반으로 크롤링을 해서 데이터를 구축해서 만들려고 시도를 해보았으나, 자꾸 동적페이지 다음페이지 넘어가면서 Chrome Driver 가 오류가 나는 바람에 데이터를 구축하지를.. 2023. 12. 15. ReAct Prompting 에 대하여 최근 Yao et al., 2022의 연구에서 소개된 ReAct 프레임워크는 대규모언어모델의 사용 방식에 혁신을 가져왔습니다. 이 프레임워크는 추론 추적과 작업별 행동을 인터리브 방식으로 생성하여, 모델이 행동 계획을 유도, 추적, 업데이트하고 예외를 처리할 수 있게 합니다. ReAct의 핵심 개념 ReAct는 인간의 학습 및 의사 결정 과정에서 영감을 받아, "행동"과 "추론"의 시너지 효과를 모델링합니다. 이는 대규모언어모델이 외부 소스와 상호 작용하며 정보를 수집하고, 보다 신뢰할 수 있고 사실적인 응답을 생성하는 데 도움을 줍니다. ReAct의 장점 ReAct 프레임워크는 언어 및 의사 결정 작업에서 여러 최신 기술의 기준선을 능가하는 성능을 보여주었습니다. 특히, 인간의 해석 가능성과 대규모언어.. 2023. 12. 13. 전참시에 나온 ChatGPT를 사용하는 ZionT 안녕하세요 Simon 입니다. 최근 공중파 프로그램 '전지적 참견 시점'에서는 흥미로운 장면이 펼쳐졌습니다. 가수 자이언티와 인공지능 ChatGPT가 대화를 나누는 모습이 방영되었는데요, 이 대화는 단순한 질의응답을 넘어서 창의적인 상호작용의 좋은 예를 보여줍니다. 이 글에서는 자이언티와 ChatGPT의 대화를 분석하며, 인공지능이 인간의 창의성을 어떻게 촉진하고 보조할 수 있는지 탐구해보겠습니다. [#전참시] 눈 뜨자마자 꿀 떨어지는 자이언티의 아침🥰 자이언티의 ＂그녀＂가 예상하는 올해의 MBC 연예대상 수상자는?ㅣ#자이언티 #전현무 MBC231209방송 창의적 대화의 시작 - ZionT: "부탁하고 싶은게 있어 지금 애니메이션을 제작 중인데 제목은 정요셉 나는 축구왕 나는 축구왕 슛돌이어린 시절부터 .. 2023. 12. 12. ChatGPT 에게 Tip 을 주면 성능이 더 좋아진다? 안녕하세요 Simon 입니다. 이번에는 긴 글 은 아니고 팁이자 유용한 방법을 소개해드리려고 합니다. 한 트위터에서 GPT 사용자가 테스트를 해봤다고 하는데요. https://twitter.com/voooooogel/status/1730726744314069190?utm_source=www.joinsuperhuman.ai&utm_medium=referral&utm_campaign=what-happens-when-you-give-chatgpt-money X의 thebes님(@voooooogel) so a couple days ago i made a shitpost about tipping chatgpt, and someone replied "huh would this actually help perform.. 2023. 12. 6. OpenAI의 Assistants API로 개인 수학 튜터 만들기 OpenAI는 최근 Assistants API를 출시했는데요, 이를 활용하면 다양한 상호작용이 가능한 AI Assistant를 만들 수 있습니다. 예를 들어, 오늘은 '개인 수학 튜터'라는 Assistant를 만들어 보겠습니다. 어떻게 보면 RAG 방식의 챗봇을 구현하기 위해 Open AI 가 다 만들어주고 관리하는 Tool 이라고 생각하면 될 것 입니다. Assistant API는 오마카세 이고 Langchain 은 뷔페 둘의 성격은 비슷한거 같으나 다르다. Assistant API의 구조 어시스턴트 : 큰단위 , 스레드 : 대화 내역(각각), 런 : 어떤 스탭을 결정 거치는지 런은 Assistant 인 interpreter 를 쓰지 않아도 무조건 돌아가야하는 단계다. 시작하기 전에 먼저, Assist.. 2023. 12. 5. OpenAI 샘알트만 왕의귀환 안녕하세요 Simon 입니다. AI 분야가 들썩 들썩 거리네요. 최근에 샘알트만이 마이크로소프트로 전격합류하는 소식의 글을 업로드했었는데요. 최근에도 마이크로소프트에서 OpenAI 임원진 동일보수 조건으로 받아주겠다는 트위터와 함께 OpenAI 의 임원진들이 대거 이탈하는듯해보였습니다. 그러나 오늘 또 떠들썩한 일이 벌어졌습니다. 내용은 다음과 같습니다. Sam Altman의 OpenAI 복귀: Sam Altman은 Microsoft로의 이동을 결정했으나, 며칠 만에 OpenAI의 CEO 자리로 복귀하기로 했습니다. 그는 소셜 미디어 X(전 트위터)를 통해 OpenAI로 돌아가서 Microsoft와의 강력한 파트너십을 구축하기를 기대한다고 밝혔습니다. 이사회 재구성: Altman의 복귀와 함께 OpenA.. 2023. 11. 22. Large Language Models Understand and Can be Enhanced by Emotional Stimuli 논문 리뷰 최근 사장님께서 보내주신 "EmotionPrompt" 관련 기사를 읽고, 해당 논문에 대해 간단하게 소개하려고 합니다. Large Language Models Understand and Can be Enhanced by Emotional Stimuli 라는 제목으로, LLM 분야에서 감정 지능이라는 새로운 차원을 탐구함으로써 기술과 인간의 상호작용을 풍부하게 만드는 데 크게 기여하며, 특히 Emotion Prompt라는 혁신적인 접근 방식을 통해 대규모 언어 모델들이 감정을 어떻게 이해하고 반응하는지에 대해 소개합니다. 1. Instruction 이 논문에서 연구자들은 감정 지능을 “감정이 담긴 정보를 적절히 해석하고 관리하는 능력”으로 정의하며, 이를 통해 문제 해결부터 행동 조절에 이르기까지 다양한 .. 2023. 11. 16. GPTs 로 Custom 챗봇 구축하기 안녕하세요 Simon 입니다. 저번에 소개해드렸던데로 Open AI 에서 대규모 업데이트 이후 기능인 GPTs를 활용해서 커스텀 챗봇을 개발해보았습니다. 회사에서 고객의 Prompt 를 정형화 하기 위해 Rule Base의 컨텐츠형으로 선택 후 모델이 응답 할 수 있게 챗봇을 구축하면 어떠냐는 아이디어를 팀장님들께서 던져주셨고 이를 그냥 ChatBot에 녹일수는 없나 고민을 해보았습니다. 역시 답은 Prompt 였습니다. 그래서 디자이너 챗봇과 고객응대 챗봇을 만들어봤습니다. 약묵자는 제가 맛집모임을 하고 있는데 뉴비를 위한 챗봇 Guide 를 만들면 재밌겠다 싶어서 실험으로 만들어봤는데 성능에 감탄을 했습니다. 우선 저희가 지금 계획하고 있는게 일본시장 공략과 Prompt 정규화를 어떻게 이끌어낼까에 .. 2023. 11. 15. OpenAI의 Embedding을 이용한 ChatGPT Custom Chatbot 시스템 구축해보기 챗봇 개발은 AI와 머신러닝의 빠른 발전으로 인해 점점 더 중요해지고 있습니다. 특히, OpenAI의 GPT 모델을 활용하면 높은 수준의 대화 능력을 가진 챗봇을 만들 수 있습니다. 이 글에서는 ChatGPT를 활용한 Custom ChatBot 개발에 대한 전반적인 가이드와 함께, 토큰 제한과 대용량 데이터 처리 등의 문제를 어떻게 해결할 수 있는지에 대해 설명하겠습니다. 오늘은 ChatGPT로 나만의 커스텀 챗봇을 한번 만들어 보겠습니다. 준비물 : OpenAI API Key, Python 키워드 ChatGPT Custom ChatBot OpenAI 토큰 제한 대용량 데이터 처리 Embedding 기업들이 기업용 LLM 을 구축하기 위해서 많은 시간과 돈을 쓰면서 노력을 하고 있다고 합니다. 저의 업무.. 2023. 11. 15. [OpenAI DevDay] OpenAI 개발자 컨퍼런스: GPT-4 Turbo와 새로운 기능들 새벽 3시에 개최된 OpenAI 개발자 컨퍼런스에서는 여러 놀라운 소식들이 전해졌다. 특히, GPT-4 Turbo라는 새로운 모델이 소개되었으며, 이는 128,000 토큰 컨텍스트를 지원한다. 또한, Json 모드를 통해 출력을 json으로만 할 수 있게 되었고, 여러 함수를 한 번에 처리할 수 있는 더 나은 펑션 콜링 기능도 추가되었다. 데이터 학습 기간은 2021년 9월부터 2023년 4월까지로 반영되었으며, 새로운 모달리티, GPT-4 Turbo with vision, 달리3, TTS 등이 API로 사용 가능하게 되었다. 또한, 오픈소스 모델인 Whisper V3도 API로 제공될 예정이다. GPT-4의 가격도 인하되었는데, 인풋 토큰은 3배 저렴하게, 아웃풋 토큰은 2배 저렴하게 조정되었다. 이외.. 2023. 11. 8. 효과적인 AI 프롬프팅 전략을 위한 가이드 인공 지능(AI) 기술의 진화는 대화형 AI의 프롬프팅 기법에도 혁신적인 변화를 가져왔습니다. 특히 OpenAI의 GPT-4 같은 고급 모델에서는 사용자의 의도를 정확히 파악하고 적합한 결과를 도출하기 위해 구조화된 프롬프트 작성이 핵심적인 역할을 합니다. 이 글에서는 구조화된 프롬프트 작성을 위한 전략과 이를 효과적으로 활용하는 방법에 대해 설명하겠습니다. 1. 명확한 지침과 컨텍스트 제공 프롬프트는 사용자의 요구 사항을 분명하게 전달할 수 있도록 명확한 지침과 컨텍스트를 포함해야 합니다. 부정적인 표현보다는 명령문 형태로 지시를 제공하여 AI가 보다 효과적으로 행동을 이행하도록 해야 합니다. 예시: 잘못된 방식: "쓰지 마세요." 올바른 방식: "다음과 같이 작성해주세요." 2. 프롬프트 길이와 중복.. 2023. 11. 8. ChatGPT와 서비스 진화: 선택형에서 임베디드형까지 ChatGPT의 등장은 대화형 인터페이스의 세계를 혁명적으로 바꿨습니다. 이 글에서는 ChatGPT와 관련된 다양한 서비스 유형과 그 진화를 살펴보겠습니다. 1. 선택형 서비스 정의: ChatGPT의 등장 이전에 주로 사용되던 서비스. 사용자의 입력이나 클릭을 기반으로 하는 GUI 소통 방식을 사용합니다. 특징: 사용자의 자유도가 제한되며, 제품 팀의 입장에서는 사용자의 행동 패턴을 예측하기 쉽습니다. 예시: 은행의 이전 서비스 챗봇, 미드저니, Speech(TTS), 뤼튼과 같은 선택형 서비스. 2. 대화형 서비스 정의: ChatGPT의 등장 이후 급격히 확산된 서비스. 사용자와 서비스가 직접 "대화"를 통해 상호 작용합니다. 특징: 사용자 패턴 예측이 어렵습니다. 예시: 마이크로소프트의 "Copilo.. 2023. 11. 6. 내가 좋아하는 가수로 음원 변환하기 TTS 기술 review 안녕하세요. Simon 입니다. 일교차가 많이 쌀쌀해지고 있습니다. 다들 환절기에 감기 조심하시고 집에서 따끈한~ GPU와 함께 딥러닝 한잔은 어떠실까요? 첫 포스팅을 쓰게 되는데 앞으로 재밌는 기술 , 저희 회사에서 하는 Contents 제작 관련된 글들을 포스팅 해보려고 합니다. 저는 AI 엔지니어이기 때문에 다른 논문리뷰, 오픈소스 관련 세미나 글도 써볼 예정입니다. https://github.com/jh941213 오늘은 AI 기술을 활용하여 음악의 보컬을 합성하고 음악을 제작하는 방법에 대해 소개하려고 합니다. 최근에는 AI 기술이 음악 분야에서도 큰 주목을 받고 있습니다. 그 중에서도 TTS(Tex-to-Speech) 기술은 특히 눈에 띄는 발전을 보이고 있습니다. 1. 시작하기 전에 필요한 .. 2023. 11. 2. 이전 1 2 다음 728x90
