update: 2024.3.9

• https://huggingface.co/spaces/mike-ravkine/can-ai-code-results
• https://huggingface.co/spaces/bigcode/bigcode-models-leaderboard
• https://leaderboard.tabbyml.com/
• https://bird-bench.github.io/ (SQL)
• https://yale-lily.github.io/spider (SQL)

항목에 대한 정보

1. Model: 모델의 이름 또는 식별자입니다.
2. Params: 모델의 매개변수 수 (일반적으로 모델의 크기를 나타냅니다).
3. HumanEval: 모델의 인간 평가 점수입니다. 이는 모델이 사람의 품질에 얼마나 근접한지를 나타냅니다.
4. MBPP: Mean Binary Perplexity (MBPP)는 모델이 이진 데이터의 평균 퍼플렉서티를 나타냅니다. 이것은 모델이 이진 데이터를 얼마나 잘 예측하는지를 측정합니다.
5. HF: Hugging Face 모델 허브(Hugging Face Model Hub)의 해당 모델에 대한 링크입니다.
6. Source: 해당 모델에 대한 추가 정보를 찾을 수 있는 링크입니다.

오늘은 Mac이 AI PC로서 왜 최고인지에 대해 이야기해보려고 합니다. 여러분도 알다시피, 인공지능은 우리 삶의 많은 부분을 변화시키고 있죠. 그리고 이러한 변화를 이끌어가는 데 있어서 Mac 컴퓨터가 중요한 역할을 하고 있습니다.

강력한 뉴럴 엔진

Mac 컴퓨터는 매년 더 발전하는 신경망 엔진(Neural Engine)을 갖추고 있어서, 강력한 AI PC로 사용할 수 있습니다. Apple의 M3 칩 가족은 세 년 전 M1 칩과 비교하여 60% 더 빠른 신경망 엔진을 갖추고 있으며, 이전의 M2 칩과 비교하면 15% 더 빠릅니다.

메모리 관리

AI 작업에는 많은 메모리(RAM)와 그래픽 메모리(VRAM)가 필요합니다. Mac 컴퓨터는 이러한 작업에 대한 메모리 관리를 뛰어나게 잘 합니다. Apple Silicon Mac은 중앙 처리 장치(CPU)와 그래픽 처리 장치(GPU) 코어 간에 공유되는 단일 메모리를 사용하지만, Windows PC보다 메모리 관리가 더 좋습니다.

서드파티 AI 앱 지원

Mac은 다양한 온라인 AI 도구를 실행할 수 있습니다. 예를 들어, LM Studio를 Mac에서 사용하여 주요 언어 모델(LLM)을 실행할 수 있습니다. Llama 2도 다양한 방법으로 로컬로 실행될 수 있습니다. 오디오와 동영상 AI 소프트웨어 앱, 같은 Stable Diffusion과 Whisper도 Mac에서 원활하게 작동합니다.

사용자 기반

Mac은 이미 AI PC로 사용되고 있습니다. 2020년부터 Mac은 신경망 엔진을 탑재하여 AI PC로 사용할 수 있습니다. 이는 2020년 출시된 엔트리 레벨 Mac Mini와 MacBook Air가 4년된 지금도 AI PC로 사용할 수 있다는 것을 의미합니다.

Mac은 사용자가 구매해야 할 새로운 AI PC를 구매하지 않고도 AI를 사용할 수 있는 장점이 있습니다. 새로운 노트북이나 PC를 구매하는 빈도가 높지 않기 때문에, 평균 Windows 사용자는 몇 년 동안 NPU를 탑재한 시스템을 구매할 것입니다. 그러나 Mac을 보면, 수백만 명의 사람들이 이미 AI PC로 사용할 수 있는 Mac을 가지고 있습니다.

프롬프트는 인공지능 분야, 특히 인공지능 언어 모델의 개발과 개선에 있어 필수적인 요소가 되었습니다. 이 블로그 게시물에서는 프롬프트의 정의, 프롬프트 엔지니어링의 기술, 효과적인 프롬프트를 만들기 위한 다양한 프레임워크에 대해 살펴봅니다. 또한 프롬프트 마켓플레이스의 등장과 적대적 프롬프트의 개념에 대해서도 논의할 것입니다.

프롬프트란 무엇인가요?

프롬프트는 AI 언어 모델에 제공되는 텍스트 입력으로, 응답을 생성하거나 작업을 완료하기 위한 시작점 역할을 합니다. 프롬프트는 일반적으로 컨텍스트(배경 정보)와 명령(특정 요청 또는 질문)으로 구성됩니다.

프롬프트 엔지니어링이란 무엇인가요?

프롬프트 엔지니어링은 AI 언어 모델 성능을 최적화하고 보다 정확하고 관련성 있으며 유용한 응답을 생성하기 위해 프롬프트를 설계하고 개선하는 프로세스입니다.

프롬프트 작성을 위한 기본 지침

• 대화 스타일 조정하기: 원하는 출력에 따라 적절한 어조와 스타일을 선택합니다.
• 명확하고 간결한 표현: 모호한 표현을 최소화하고 간단한 언어를 사용하여 메시지를 전달하세요.
• 열린 질문보다 닫힌 지시: 개방형 질문 대신 구체적인 지침을 제공하세요.
• 지시 사항과 맥락을 명시하세요: 작업을 명확하게 정의하고 관련 배경 정보를 제공하세요.

더 나은 프롬프트 작성을 위한 프레임워크

• Zero Shot Prompting: AI 모델이 사전 예제 없이 응답을 생성합니다.
• One-Shot Prompting: AI 모델이 하나의 예시를 사용하여 응답을 안내합니다.
• Few-Shot Prompting: AI 모델은 몇 가지 예제를 사용하여 작은 데이터셋에서도 높은 성능을 발휘할 수 있는 모델을 학습시키기 위한 기술
• CoT (Chain-of-Thought): 프롬프트를 더 작은 단계 또는 시퀀스로 세분화하는 기법입니다.
• Zero-Shot CoT (Chain of Thought): 제로 샷 프롬프트와 CoT 접근 방식을 결합합니다.
• Self-Consistency: AI가 생성한 콘텐츠가 스스로 일관성을 유지하도록 보장합니다.
• Generated Knowledge Prompting: AI가 생성한 지식을 후속 프롬프트의 컨텍스트로 활용합니다.

프롬프트 엔지니어링과 함께 떠오르는 트렌드

• 프롬프트 마켓플레이스: 프롬프트와 명령의 교환을 용이하게 하는 플랫폼.
• 눈에 띄는 프롬프트 마켓플레이스: 이 분야에서 점점 더 많은 플랫폼이 등장하고 있습니다.
• 적대적 프롬프트: 악성 프롬프트로 AI를 해킹하는 행위.
• 프롬프트 인젝션: 합법적인 프롬프트에 적대적인 입력을 삽입하여 AI의 응답을 조작하는 행위.
• 프롬프트 유출: 프롬프트를 통해 민감한 정보를 유출하는 AI의 경향을 악용하는 행위.
• 탈옥: 교묘하게 조작된 프롬프트를 통해 AI 모델에 대한 제한을 우회하는 행위.
• 적대적 프롬프트 탐지기: 악의적인 프롬프트를 탐지하고 완화하는 도구 및 기법.

프롬프트와 프롬프트 엔지니어링은 AI 언어 모델의 효과와 효율성에 중요한 역할을 합니다. AI 기술이 계속 발전함에 따라 프롬프트 설계의 복잡성을 이해하고 프롬프트 마켓플레이스 및 적대적 프롬프트와 같은 새로운 트렌드에 대한 최신 정보를 파악하는 것이 필수적입니다. 그래야만 AI의 잠재력을 최대한 활용할 수 있습니다.

금리가 인상되어 은행 이자 또한 일반 입출금 통장 이자가 3% 상품이 나오고 있습니다. 물가가 상승하고 있는 이 때에 자금을 마련하지 않으면 큰일이 날 것 같아서 재테크, 자유로운 경제 생활을 위해서 투자를 해 보려고 합니다.
평상시에도 주식, 적금 등을 해서 자금을 마련하고는 있지만, 특히 주식으로 투자하는 시간은 많은 시간을 할애할 수가 없어, 증시가 변하는 상황에 재빠르게 대응할 수 없는 것이 현실입니다.
그래서, 주식투자를 #AI 가 알아서 해 준다는 앱이 있어서 포트폴리오 등 기록을 남겨보려고 합니다.

핀트

디셈버앤컴퍼니자산운용라는 회사가 만든 인공지능(AI) 간편투자 금융 플랫폼 '핀트'입니다.

1년단위의 투자일임계약을 통해서 주식투자가 이뤄집니다. 핀트사의 홈페이지 정의 내용을 가져오면 아래와 같습니다.

투자일임이란
금융 회사가 투자자로부터 주식, 펀드, 채권 등 금융투자상품의 투자 판단을 일임 받아 투자자 개별 계좌로 운용해 주는 것을 의미해요.
자본시장법에선 투자일임업을 '투자자로부터 금융투자상품에 대한 투자 판단의 전부 또는 일부를 일임 받아 투자자별로 구분하여 금융투자상품을 취득·처분, 그 밖의 방법으로 운용하는 것을 영업으로 하는 것'으로 규정합니다.

수수료 10%

아이작시스템은 수익의 10% 를 수수료로 가져갑니다. 이 부분에 많은 생각이 들었지만, 이익이 났을 때기 때문에 서로 윈윈 되는 부분이라고 생각하고 넘어가기로 했습니다.

1. 투자 성향 설문

가입을 하면 개인이 가진 투자 관련 설문이 진행 됩니다. 균형적 투자를 할것인지, 고위험 고소득 방식으로 투자를 할 것인지 설문을 통해서 자신의 성향을 신속히 파악할 수 있습니다.
설문은 대략 5분 정도의 시간이 필요합니다.

2. FINT 와의 투자 계약

핀트의 투자금 계좌를 만든다고 보면 됩니다. 지갑을 생성해서 핀트쪽에 넣어 놓고 이를 통해서 투자가 이뤄지는 것 같습니다.

저는 투자 운용 방식을 해외 거래 중심으로 사용하려고 합니다. 해외주식에 관심이 많고, 지금 달러가 많이 상승하고 있는 중이기 때문입니다. 앞으로 꾸준히 1700원까지 상승 할 것 으로 보입니다.(

나만의 생각

)

3. 준비금 20만원

이제 돈을 이체하면 준비 작업는 끝납니다.
투자의 시작은 20만원을 이체하고 기다리는 것 입니다. 핀트는 처음 20만원이입금 되면 AI 아이작 엔진을 통해서 알아서 투자하는 시스템입니다.

20만원이 이체 되기 전에는 투자가 진행되지 않습니다.

그리고 저는 해외주식거래를 선택했기 때문에 환전과정이 추가로 필요 했습니다. 환전은 한국시각으로 평일 오후 3시즈음에 되기 때문에 달러로 투자하는 시간이 하루가 더 필요 했습니다.

20만원을 139.52 달러로 환전했습니다.

4. 투자방향 선택

투자스타일에 대해서 선택할 수 있습니다. 사용자가 선택할 수 있는 부분입니다. 자신의 투자 스타일을 선택할 수 있습니다. 처음 사용자 같은 경우에는 단계를 조절할 수 있는 부분이 제한되어 있습니다. 제한 된 기능은 사용기간 또는 투자금이 올라가면 해제가 되는 것 같습니다.
투자금에 따라 다양한 분야로 투자를 할 수 있기 때문에 그런것 같습니다.

5. 작업 시작

주단위로 아이작의 작업 현황에 대해서 남겨보려고 합니다. 수익이 더 난다면 더 투자 하겠지만, 일단은 어떻게 돌아가는지 분석하는것 이 중요하다고 봅니다.