誰かが世界で最も成功しているFabless Semiconductor CompaniesであるARMの1つで仕事を辞めるのは毎日ではありません。
2023年の夏に彼がリテラルラボに初めて出会ったとき、それはノルウェーのAI研究センターと協力してニューカッスル大学から紡いでいました。彼らはロジックベースのAIとTsetlinマシンと呼ばれるものに5年間働いていました。
プロセッサとコンピューターサイエンスの分野で30年を費やしてきたHurleyは、AIの採用に関する課題、特に産業市場での課題に精通していました。彼は、「エッジAIについて約束がなされたが、進歩は限られていた」と認めている。
「ニューラルネットワークには、高価な新しいハードウェアが必要であり、多くのエネルギーを消費し、展開が遅かった」
彼がリテラルラボの研究結果を見たとき、彼は「aha！」を持っていました。一瞬。これらの問題の多くを解決し、既存のハードウェアで実行できる技術がありました。
「つまり、顧客を早期に引き付けて迅速に展開することができました。これは単なる興味深い研究ではなく、会社の基礎ではなかったことは明らかでした」と彼は共有しました。
私はリテラルラボについて学ぶためにハーレーと一緒に座った。
Tsetlinマシンとは正確には何ですか？
今日のニューラルネットワークは、乗算を中心に構築されています。乗算は、チップの高価な操作です。大きな回路が必要であり、多くのエネルギーを燃やします。それが私たちの消費電力が急増した理由です。
「多くのチップが「ニューラルネットワークアクセラレータ」を宣伝するようになりました。これは、基本的には多重化回路の大きなアレイです」とハーレーは主張し、Tsetlinマシンの動作は異なると説明しています。
「重い数学の代わりに、命題論理を使用しています。
トレーニング中、モデルは、これらの各ステートメントを含める、除外、または無視するかどうかを決定します。その結果、シリコンにはるかに効率的に展開できるロジックの密なネットワークが得られます。」
低コストは低電力に会います
リテラルラボのAIモデルは、非常に低コストの低電力ハードウェアで実行されるように設計されています。特に、5ドル以下のデバイスです。ドル。
これらのデバイスは、通常、洗練された高性能コンピューティングプラットフォームではなく、控えめなマイクロコントローラーまたはシステムオンチップユニットです。重要なポイントは、推論にはGPUまたは特殊なアクセラレータ（TPUやカスタムAIチップなど）が必要ではないことです。
Hurleyは、文字通りのLabsの低エネルギーの結果を、乗算回路よりもエネルギー効率が高いロジックベースの回路に起因しています。
「私たちのアプローチは、シリコンに最適化されていない操作を処理するように強制するのではなく、既存のシリコンの強みにアルゴリズムを一致させることです。」
Hurleyによると、ほとんどの操作は検索または比較にかかっています。
乗算重量の回路をロジックベースの回路に置き換えることにより、コストとエネルギーのほんの一部で同様の結果を達成できます。
54×より速く、52×緑
これが少し複雑に聞こえる場合、MLPERFベンチマーク基準に関しては、結果は自分自身を物語っています。これらは、さまざまなハードウェアとソフトウェアシステムがAIワークロードを実行する方法を測定するための公正で代表的で繰り返し可能な方法を提供します。
リテラルラボのベンチマークは、劇的な結果を示しています。同等のニューラルネットワークと比較して、パフォーマンスの54倍と52倍のエネルギー使用量が少なくなります。
ハーレーによると、彼が2023年10月に参加したとき、チームはすでに従来のアルゴリズムで5倍から250倍の範囲のスピードアップを見ていました。
「昨年、MLPERFベンチマークを公開したとき、52倍低いエネルギー消費で54倍のパフォーマンスを確認しました。
さらに励みになったのは、MLPERFで使用されているデータセットが大幅に大きく複雑であることです。これは、前にテストした1メガバイトセットと比較して最大400ギガバイトでした。
この複雑さの増加にもかかわらず、利益は上昇しました。それは私たちのアプローチの堅牢性を示しました。」
さらに、論理ベースのAIは自然に説明可能であり、モデルの意思決定に対する説明責任を確保します。
リテラルラボは、エッジAIでより安価なパスを示しています
リテラルラボは、産業およびエッジAIで即時の牽引力を見ています。全体として、文字通りのラボは、計算の複雑さ、推論コスト、および材料請求書を下げることでシステムコストを削減するため、真の商業的価値を生み出します。
「バッテリーを搭載したデバイス、安全性が批判的な製品、または規制されている市場について考えてみてください。これらの環境では、説明可能性、エネルギー効率、および制約の計算がすべて重要です」とHurley氏は説明します。
歴史的に、これらの市場でAIを適用しようとする試みは、失敗するか、厳しく制限されていました。企業はすでに現場にある機器を交換する余裕がなかったため、接続をボルトで固定し、クラウドにデータを送信し、そこで処理しようとしました。これにより、クリアボトムラインリターンを提供することなく、コスト、依存関係、サプライチェーンの複雑さが追加されました。
「対照的に、私たちのアプローチについて顧客を興奮させるのは、高価なアップグレードなしでAIを既存のデバイスに直接展開する能力です。以前は立ち入り禁止だった場所でインテリジェンスを端にもたらすことができます」と彼は共有しました。
リテラルラボは、エンジニアが独自のモデルをトレーニングできるようにします
リテラルラボのビジョンの一部は、顧客に独自のモデルを訓練できるようにすることです。 Literal Labsの商用製品は、顧客が独自のデータセットでモデルをトレーニングできるツールチェーンです。ターゲットユーザーは有能なソフトウェアエンジニアであり、必ずしも機械学習スペシャリストではありません。
Hurleyによると、ツールは高度に自動化されています：
「通常、単一のモデルを訓練するだけでなく、数百を訓練してから、剪定して最適なものを選択します。そのプロセスに自動化を構築しました。
顧客は、オンプレミス、プライベートクラウド、または直接端で実行できます。これにはいくつかの利点があります。データセットをオフサイトで送信したくない顧客のデータ感度の懸念に対処し、既存のインフラストラクチャに適合することで採用を容易にします。」
Leon FeddenのCTO会社は、以前はAstrazenecaのDeep Learning Platformを率いていました。彼はその専門知識を、古典的なAI技術と自動化を組み合わせて、そのツールチェーンが堅牢でスケーラブルであることを保証します。
同社はユーティリティと協力して、センサーが「通常」と「異常な」フローを構成するものを識別し、早期警告をトリガーできるスマート廃水システムを開発しています。同じことが、膨大な数のリモートセンサーを備えた電力ネットワークまたはその他のユーティリティグリッドにも当てはまります。
もう1つの重要な領域は、マシンの健康です。これには、摩耗や裂傷の予測と、マシンが失敗する前にメンテナンスを送信することが含まれます。それは産業環境で非常に価値があります。
現在、振動センサーやオーディオなどの時系列データと表形式データに焦点を当てています。これらのドメインは、より良い予測とプロセスの決定の機会に満ちています。
「私たちは画像データの能力を構築していますが、最初の焦点は時系列と表紙です」とHurley氏は説明します。
高価なハードウェアスワップを避けることにより、リテラルラボはエッジAIの採用を緩和します
Edge AIの多くのスタートアップは、多くの場合、AIを展開することにハードウェアを変更する必要があるという課題のために、商業化に苦労しています。企業は、新しい機器の設置の費用や混乱を望んでいませんでした。ハーレーは説明した：
「私たちの利点は、特別なアクセラレータを必要としないことです。すべての産業用IoTデバイスがすでに持っている標準マイクロプロセッサです。
唯一の基本的な制約は、追加の機能に十分なメモリが利用できるかどうかです。これは、まったく新しいハードウェアに依存するアプローチとの大きな違いです。」
現在、リテラルラボは顧客と5つの概念実証プロジェクトを実行しており、今年の後半に製品を発売することを目指しています。
ハーレーは、AIがスタートアップのための騒々しいスペースであることを認めています。
「多くの約束が得られます。しかし、私たちは自分自身を破壊者と見なしています。私たちの戦略は集中し続けることです。強い問題領域を見つけ、顧客と緊密に連携し、測定可能な価値を提供します。それは私が腕で早く学んだことでした。
ARMの最初のCEOであるRobin Saxbyは、常に焦点を強調しています。
私は従業員番号40代として参加しましたが、そのレッスンは今日でも当てはまります。」
今年のリテラルラボの焦点は、チームの拡大、概念の証明の提供、および製品の発売の準備にあります。そこから、時系列や表形式を超えてデータ機能を広げ、顧客向けツールの構築を継続します。
長期的には、ビジョンは、ロジックベースのAIを、特にエネルギーおよび計算制約の環境において、ニューラルネットワークの主流にすることです。