Intel Mac で ELYZA-japanese-Llama-2-13b 及び phi-2 とllama.cppで戯れてみた

Llama 2を日本語拡張したELYZA-japanese-Llama-2に13b版が出ましたので試してみます。
Hugging Face ELYZA.inc
ここにモデルがありますので、ELYZA-japanese-Llama-2-13b-fast-instruct と ELYZA-japanese-Llama-2-13b-instruct のモデルをダウンロードしてllama.cppを用いて推論してみました。

以前にLLMをいくつか試しています。
Intel MacでGPUを使わずに大規模言語モデルと戯れてみた
Intel MacでLlama 2モデルと戯れてみる
Intel Mac上でllama.cppを使って日本語LLM（ELYZA & Stabilityai beta）を使ってみる
Intel Mac上でllama.cppのサーバ機能を使って日本語LLMを使ってみる

今回、ELYZA-japanese-Lllama-2-13bを試すにあたっては、ダウンロードやGGUFフォーマットへの変換、量子化について、
Intel Mac上でllama.cppを使って日本語LLM（ELYZA & Stabilityai beta）を使ってみる
Intel Mac上でllama.cppのサーバ機能を使って日本語LLMを使ってみる
と同様の手順にしたがっています。

続きを読む "Intel Mac で ELYZA-japanese-Llama-2-13b 及び phi-2 とllama.cppで戯れてみた"

分離型キーボードで親指シフト（NICOLA配列）を試す（Majestouch Xacro M10SP JIS配列）

昨年10月以降、巷ではHHKB Studioが話題になっていますよね。実際、PFUの販売計画を超える大変な売れ行きみたいです。秋葉原に行った折に遊舎工房で触ってみましたが、ファーストインプレッションとしてはいい感じでした。私はThinkPadも使っていてトラックポイントキーボードに馴染んでいますので、興味があるところです。

同時期に発売されたキーボードとして私の興味を引いたのが、ダイヤテックさんから販売されているFILCO Majestouch Xacro M10SPです。FILCOブランドとして最初の分離型キーボードでしょうか。分離型キーボードは、自作キーボードとしては結構出ていますが、FILCOブランドを冠して販売されたというのが大きいと思います。これから分離型キーボードの認知が広がるかもしれません。

最近、私も分離型キーボードに興味が湧いてきていたところでした。これまでJISの分離型キーボードとしてはMistelのBAROCCOシリーズがありました。私は使ったことはないですが。「6」キーや「B」キーが左右のどちらにあるべきかというのは、分離型キーボードの一つの課題で、MD600JPは「6」キーが右側にありましたが、後継のMD770JPは左側に来ていて、どうしたものかと思っていたわけです。先日発売された Majestouch Xacro M10SPは、左右境界にマクロキーを配することで、この問題を解決しています。

 私は、ここ１年半ほど親指シフト（NICOLA配列をカスタマイズ）入力を継続しています。ソフトウェアインストールに制限がある環境も利用する必要があり、また、WindowsとMacを行き来したり、キーボードも複数ありますので、これらの環境の違いをうまく吸収するために、かえうち２を使って親指シフト入力しています。

過去に以下の記事を書きました。
Apple Wireless Keyboard を HHKB Professional Hybrid Type-S に変更して、ついでに親指シフト（NICOLA配列）に挑戦してみた
FILCO Majestouch MINILA-R Convertibleを導入して、親指シフトも試してみた
かえうち２を導入してみた

HHKBと親指シフトの組み合わせに関する記事はネットに散見されますし、情報がネット上に結構あります。
Majestouch MINILA-R Convertibleとorz配列は実は相性が良くて、Majestouch MINILA-R ConvertibleはPatch Keycapを採用していて、キーキャップのキートップとベースが分離して組み合わせることができるため、FILCO Majestouch MINILA-R Convertible レビュー（orz配列・親指シフト用カスタマイズ）にありますように、orz配列のキートップ表記とFnキーと同時打ちのキー表記がされているベースを組み合わせたキーキャップを作成することができます。もっとも、私はorz配列を使っていないのですが・・・

続きを読む "分離型キーボードで親指シフト（NICOLA配列）を試す（Majestouch Xacro M10SP JIS配列）"