布萊恩

感謝您今天參加我們的會議。我是布萊恩·德盧卡，還有妮可萊特·埃米諾，我們今天將成為你這次即時聊天的主持人，“今天的FPGA如何馴服數據洪流問題”，由貿澤電子，BittWare和Molex贊助。

我們有一些很棒的小組成員，這是一個即時聊天，所以一定要在螢幕底部的問答中提出你的問題。現在是尼科萊特。

尼科萊特

嗨，夥計們。再次感謝您加入我們。我們和我們的三位小組成員，首席技術和戰略官傑夫·米爾羅德一起來到這裡，在比特韋爾。史蒂文·貝茨，艾迪克姆的首席技術官。謝普·西格爾，原子規則的首席技術官。

這三位專家將討論這些新興解決方案，包括硬體和軟體IP的具體示例，重點是FPGA解決方案。

所以，讓我們潛入，我們將從一點背景開始。夥計們，你們怎麼看？

那麼，你為什麼不告訴我們——你知道，謝普、傑夫、斯蒂芬——你為什麼不告訴我們這三個組織呢？你們在新計劃中一起合作了嗎？我們為什麼不談談它如何為市場服務以及你們做了什麼？

傑夫

好吧，好吧，我將開始接受這一點，因為BittWare幾十年來一直在使用FPGA製作硬體平臺。我們所做的本質是這些應用程式的平臺。我們是該平台的專家，但在應用程式和工作負載方面卻不是專家。從歷史上看，我們已經將我們所謂的「裸機」出售給我們的客戶，他們是在FPGA上編碼和開發應用的專家。

我們發現，客戶越來越不願意做所有艱巨、繁重的FPGA程式設計工作。我們還與 Shep 和 Stephen 等 IP 和解決方案供應商合作，在我們的硬體平臺上提供穩定且經過驗證的增值服務。

夏普

是的，傑夫，這很好，我就跳到這裡來。因此，在原子規則，我們作為FPGA社區的服務和IP供應商，不削減蝕刻 - 它沒有硬體，我們在BittWare中沒有更好的合作夥伴來提供具有來自所有重要供應商的尖端FPGA的平臺，以便我們的IP可以以最佳方式顯示。

傑夫和比特韋爾/莫萊克斯希望擁有IP的願望直接滿足了我們對擁有一個平臺的需求，以提供我們希望為客戶帶來的價值。斯蒂芬？

斯蒂芬

是的，我肯定會跳進去的。所以，一個偉大的人曾經說過，你知道，對於一台電腦...一個計算機系統要真正閃耀，你需要兩件事：你需要好的硬體和好的軟體。對於那些遊戲玩家來說，一個很好的例子是你可以去構建一台很棒的遊戲PC，但是你需要遊戲開發人員編寫軟體來在硬體上運行，對吧？

因此，當您擁有良好的硬體和軟體時，您將獲得客戶的最佳體驗。就像傑夫在談話時提到的那樣，我們，你知道，Molex / BittWare在構建出色的硬體方面非常出色。他們可以構建市場上最好的FPGA卡，但他們和客戶越來越無法開發真正使硬體大放異彩的優秀軟體。

這就是像Shep和我這樣的公司介入的地方。因此，我們正在努力開發在FPGA上運行的更好的軟體，但不僅僅是這樣。此外，在主機系統上運行並將其連接到應用程式中的軟體，無論是存儲應用程式，網路應用程式還是計算應用程式。我認為它正在提供完整的解決方案，這是客戶真正想要的：能夠從像傑夫這樣的公司（BittWare / Molex）和像Shep這樣的公司和我的公司中拿走一些東西 - 並且有一些東西可以插入，只是工作，做一些非常非常好的事情。

布萊恩

所以，我們已經談了很多...我們已經談了很多關於FPGA靈活性的問題，對嗎？FPGA 的靈活性如何？我的意思是，它們真的變得更容易程式設計了嗎——如果沒有，我們如何使用它們？傑夫，你能談談嗎？

傑夫

是的。它們非常靈活，我認為，增加靈活性意味著增加使用難度。而且，你知道，我只是在想，你知道，通過這個 - 以前的問題，我的一個老公理，你知道，十年前，你知道是“BittWare把這個裸機的FPGA硬體賣給了瘋狂的邊緣。誰是那些實際上可以捲起袖子並編寫這個靈活事物的人......現在不是賣給他們，而是與他們合作（笑）。

我會稱斯蒂芬和謝普為瘋子邊緣（笑聲）...然後我們一起...把一些非瘋子實際上可以以合理的方式消費和使用的東西放在一起。FPGA的靈活性令人望而生畏。事實上，它可以做任何事情，這意味著它本身什麼都不做。所以，你知道，當它通電時，它甚至不知道如何使用記憶體或連接到它的主機。

這就是構建框架和擁有shell或（不同的人使用不同的術語）然後應用程式和工作負載可以載入到其中的地方。。

但即便如此，應用程式和工作負載，你知道，有這些，你知道，海闊的門（也就是說，你知道，現場可程式設計門陣列是FPGA所代表的）......你知道，有數以百萬計的這些邏輯元素，你如何連接它們來做你的硬體演算法和實現是非常具有挑戰性的。隨著他們添加更多選項和強化內核，在該空間中執行特定工作負載變得更加具有挑戰性。這就是，你知道，我們瘋狂的邊緣夥伴進來的地方（笑）。

夏普

看，不必——傑夫我同意——但它不一定是瘋狂的邊緣。所有這些...在過去幾年中，有許多優秀的工具已經成熟，這使得一頭扎進數百萬個FPGA的艱巨任務變得更加易於管理。因為工具已經變得更好了，但對於一個在應用層面上遇到FPGA的人來說，複雜性幾乎是不可能的。這就是為什麼像我這樣的公司，像斯蒂芬這樣的公司和其他人有機會在這個生態系統中，在FPGA的原始蠻力之上建立一個平臺。

我在FPGA CAD設計方面的英雄之一阿爾貝托·桑泰利，並在ASIC出現的早期談到了基於平台的設計。但是，他所宣揚和研究的ASIC在FPGA中已經成為現實。我們經常會使用術語覆蓋來描述一種功能——也許Eideticom創造了它，也許原子規則創造了它，也許一些在通話中的人正在製作這些覆蓋——覆蓋層作為平臺，分層在基礎FPGA的硬體和軟體之上，以提高抽象更接近使用者試圖實現的目標。

原子規則的業務是提供提供這些平台的產品。也許有人想移動數據，也許有人想做計算存儲，也許有人有其他問題。這些IP核只是在提高交互級別，因此使用FPGA進行實際計算的工作不會立即投入，您知道，查找表格和時序驗證...只是...所有這些細節都會扼殺發展...但相反，被我們可以談論的能力放大了，“哦，你需要將數據從網络移動到磁碟驅動器再到主機？我們知道如何做到這一點，這就是這個電話......”是的，它下面有很多事情發生，但這就是像BittWare，艾迪克姆和原子規則這樣的公司提供的價值。

斯蒂芬

是的。所以，我不太確定自己對被稱為瘋子的感覺。我的一部分喜歡它，我的一部分...

尼科萊特

（笑聲）傑夫，你真的觸動了那裡的神經！

斯蒂芬

我知道你做到了，不是嗎，傑夫？我喜歡說的方式，我喜歡對我的非極客朋友說的方式是，“你知道什麼是極客。好吧，如果你去和一個極客交談，告訴他們我是做什麼的，他們會說我是一個極客。（笑聲）所以我是一個極客或兩個極客，或者我不知道。

布萊恩

我正要說同樣的話——這就像極客的平方。

斯蒂芬

所以，我認為傑夫和謝普很好地觸及了這一點。我的意思是，這些工具在“我如何學習如何使用FPGA”方面變得更好了。但是，來自供應商的晶元的複雜性也增加了 - 可能以比工具更驚人的速度增加。

我認為多年來已經做了很多工作，讓沒有FPGA經驗的人更容易讓他們做一些事情。但這仍然是一個難題，我認為我們從未真正解決這個問題。你知道，我們已經嘗試過為FPGA編寫C型程式設計語言——就像Shep說的那樣：提高抽象層。問題在於，你經常犧牲性能來獲得這種輕鬆。

所以我認為像Shep和我這樣的公司正在做的是試圖做更多特定於應用程式的覆蓋。所以，我們正在做一些...圍繞靈活性劃定一些線條。我們說你不能再做所有的事情了。你做這個，這個和這個。但是，隨之而來的是高性能的可程式設計性。我認為這很有趣。

我知道我們稍後會談到這一點，但我認為有兩件事可以真正幫助我們 - 就讓FPGA採用速度更快而言 - 是開放標準之類的東西。那麼，我們能否為FPGA的談話和程式設計制定基於生態系統的標準呢？因此，我們不再鎖定供應商。

然後另一個是開源的。那麼，我們能為FPGA做同樣的事情，就像Linux內核和Linux操作系統對軟體所做的那樣嗎？我們能不能有一個社區來查看代碼，可以像社區一樣編輯代碼，他們可以讓它變得更好，對吧？我認為這兩件事 - 我們稍後會談到它們，這非常重要。

傑夫

我想把那條線作為第二個斯蒂芬...所以，這是100%正確的。在硬體級別也存在。所以，你知道，場可程式設計門陣列本身沒有任何作用。有邏輯元素，然後是主機介面，記憶體介面，網路介面，BittWare提供了很多示例和外殼。

抽象這些框架和基礎平台的舉措之一 - 英特爾一直在推動開放框架堆疊 - 因此BittWare編碼到開放框架堆疊規範，我們在FPGA中實例化並在PCIe上實現主機介面邏輯，網路介面，記憶體介面並構建硬體，以便當您打開它時， FPGA可以移動數據。

現在，你知道，人們使用的另一種模型是，然後有一個果凍甜甜圈，現在你知道，應用程式開發人員把果凍和英特爾有特殊的工具，現在他們稱之為oneAPI，（像斯蒂芬一樣，他們可能不喜歡我用它們叫它們果凍甜甜圈填充物）......一個API適用於他們的CPU，他們的GPU和他們的FPGA，如果你在硬體層下面有這個OFS構建。因此，現在您可以使用英特爾的高級語言 oneAPI 編寫代碼，並讓應用程式在配備此開放框架堆疊的 FPGA 硬體平臺上運行（實際上，我認為開放式 FPGA 堆棧就是它所代表的）。

尼科萊特

你知道，你們已經觸及了...在一個問題中有很多。但實際上——我是什麼——我真正想知道的，我認為我們談到了其中的一些，你知道（我們有一些來自聽眾的問題），但我只想先解決這個問題：你知道，除了我們到目前為止提到的，FPGA是否有任何新的發展，在我們深入研究之前，我們現在應該討論一些問題，因為有一些問題。相關嗎？

夏普

是的，我想馬上跳出它前面，因為有...有。我的意思是，FPGA長期以來一直處於工藝技術的前沿。但現在，三年、四年或五年來，我們一直與 Gen3 PCIe 相處融洽，似乎在過去兩年中，我們跳到了 Gen4、Gen5（Gen6 即將來臨）而 CXL（與這些技術相互依存）就在這方面。

從 AMD/Xilinx、從英特爾和其他所有 FPGA 供應商那裡，我們看到 SerDes 技術肯定足夠成熟，可以處理第 4 代，即將推出 Gen5（他們的 Gen5 設備，也從主要供應商處發貨）。所以，我想說的是，從原子規則的角度來看，在與我們的客戶交談時，真正引人注目的一件事是過去一兩年中Gen4和Gen5的爆炸，而CXL就在後面。

而且，當然，不言而喻，如果沒有底層的SerDes技術，這是不可能的。但是我的簡短回答（我真的向我的同事道歉......我不得不走到它前面，因為它改變了我們的業務）Gen4和Gen5今天在這裡。

斯蒂芬

是的，我想今天網路研討會的標題是“馴服數據洪流”。更高的速度和進給是必要的...就像其中的關鍵部分。你不能將大量數據傳入和傳出FPGA，無論是在PCIe、CXL還是乙太網上，那麼FPGA做什麼都沒關係，它就是跟不上，對吧？因此，速度和進給量就像一個必要的構建塊。

但我會採取稍微不同的傾向。我認為FPGA和SoC市場真正讓我興奮的一件事是：有兩件事。其中之一就是現在有能力從ARM等公司推出非常有能力的應用處理器，一些FPGA正在這樣做。所以，你知道，人們...你可以在FPGA上啟動Linux，對吧？...並把它基本上變成一個小伺服器，幾乎就像一個小樹莓派。但現在你也有靈活性，因為FPGA以及具有硬化的ARM處理器內核，也具有這種靈活的邏輯。這可以讓你做一些非常了不起的事情。就像想像一個樹莓派，你可以改變Linux正在與之交談的硬體......你可以編寫驅動程式...這很有趣，你可以做一些非常了不起的事情。所以這是一個方面——將Linux引入FPGA的能力，並允許軟體開發人員與硬體交談......硬體團隊正在整合在一起。

另一件真正讓我興奮的事情是小晶元技術。所以，你知道，英特爾FPGA團隊已經在小晶元的基礎上工作了。AMD以其伺服器處理器中的小晶元而聞名，因此我們可以期待看到這一點。能夠在包裝內混合和匹配不同的元件，以允許，你知道，更廣泛的SKU風格，我認為這真的很有趣。因此，如果我有一個不需要乙太網的應用程式 - 也許乙太網在小晶元上 - 所以我不需要該小晶元，這隻是一個封裝選項。如果我想要ARM處理器，它們可以在小晶元上，這些小晶元可以存在於不同的工藝節點上，從而降低成本。

我們甚至可以考慮用於高頻寬記憶體連接之類的小晶元。所以，這幾乎就像...在不久的將來，我幾乎可以看到有一天，我可以去一個網站，點擊“我想要這些小晶元包裝並送到我的辦公室”，我可以選擇我想要的，謝普可以選擇他想要的東西，傑夫可以包裝 - 你知道它們都是足跡相容的 - 所以傑夫可以把任何一個放在卡片上，我們基本上得到了更多的可變性，而不會增加成本和我認為這非常令人興奮。

傑夫

是的，當然，英特爾的土地，他們使用他們的EMIB互連將小晶元稱為「瓷磚」 - 他們一直在為此做很多工作。正如你所說，乙太網和速度已經大大提高，就像Shep推出PCIe一樣，你知道，與此相結合，他們正在提高乙太網網络饋送的速度，你知道，高達100千兆和NRZ...100千兆兆票對不起，PAM4速度 - 所以，可以綁定的最大400千兆。現在這甚至不是一個大問題。

然後在記憶體方面也是如此：外部記憶體介面，DDR5s，然後，正如史蒂文所提到的，內部高頻寬記憶體塊。所以，你可以添加，你知道 - 在一些新的FPGA即將推出 - 並獲得32千兆位元組的封裝記憶體，這些記憶體以非常高速的本地總線連接到FPGA。

正在發生的另一個挑戰（這是一個值得注意的新發展）是 - 隨著這些速度和饋送，正如我們所說的那樣，在外部晶元上繼續增加 - 在移動所有這些數據方面存在嚴重的限制......人們並行化他們的總線，時鐘速率正在上升 - 但每個人似乎在供應商社區半導體級別採取的另一個非線性步驟是添加晶元網路，以更高的頻寬移動數據。

這做了兩件事：它允許您在外圍設備之間移動，還允許您在邏輯元件中移動它們。隨著這些邏輯陣列變得越來越大（有數百萬個甚至數千萬個邏輯元素），將數據移動到那裡進行處理是很困難的 - 但現在將相同的頻寬從第一個數據包處理器移動到後處理器...你必須把它一直移動到那個大陣列中 —— 這是NOC可以進入的另一個地方（晶片網络：他們稱之為NOC...咔嚓）。

夏普

如果我們要轉向NOC，我想跳進去一點 - 也許我們稍後會回到它......因為 NOC 是一個大話題，尤其是因為圍繞它們的行銷，不同的 FPGA 製造商在強化 NOC 方面都使用了這些主題。我只想...我不想讓它在原子規則這裡，當然還有其他地方，我們真的受到過去20年來對揚·格雷和納奇克特·卡普雷開發的Hoplite網路的研究的啟發。你可以谷歌它，查找Hoplite和圍繞它的所有工作。以軟方式調查NOC，它們的好處（和成本）是多麼了不起的平臺，我們受到了我們自己的軟NOC工作的啟發，我們用它來分發數據，在這些地方沒有適合我們需求的強化NOC的好處。

就像我之前談到的平臺一樣，NOC（硬的和軟的）可以作為該平臺的層來構建你的抽象。Jeff 說：「如何將數據從乙太網端傳輸到 PCI 端，傳輸到記憶體，再傳輸到儲存端？絕對。我認為這隻是另一種類型的抽象，可以將其包裝和捆綁起來，作為降低複雜性的好處，並且基本上隱藏了一些您不想知道的東西，以便獲得真正有價值的應用程式級細節。

尼科萊特

你知道，我們有一個聽眾關於國家奧會和一個強化的NOC的問題。我只想提出這個問題。您可能已經在那裡解決了它，但也許我們可以在這裡填寫它。一位聽眾問道：「不同硬化外設和內部邏輯門之間的硬化NOC如何影響內部數據路徑的牢度，而FPGA在過去二十年中一直缺乏這種速度？

傑夫

是的，這是一個詳細的硬體問題，這是一個問題。你知道，我們一直...我非正式地使用了這個詞，你知道，所有這些瘋狂的東西 - 移動所有這些數據 - 有點像管道。你必須把它弄得一團糟...如果你想讓你的水進入房子，你知道，那是一回事。如果你想把它放在廚房的水槽和浴室裡，你知道，你必須把它弄髒。而...這個類比確實適用於FPGA。然後，如果你想讓，你知道，一點點水從你的廚房裡出來，那是一回事。但是，如果你的廚房裡需要一個消防水管，你需要一種不同的管道結構，對吧？

這就是硬體NOC的用武之地，也是所有供應商現在都在為此苦苦掙扎的地方。正如Shep所說，他們在外圍設備之間以不同程度的方式擁有它們，只是，你知道，從乙太網移動到PCIe，然後以不同的方式將其放入結構中。正如我所提到的，所以如果你有一個400千兆乙太網進入一個硬化的MAC FEC...現在輸出了，你需要在你的邏輯中做一些數據包處理...好吧，這是附加的。現在這個邏輯的輸出，你如何把它移到某個地方？

因此，現在您需要一個可以在結構中訪問的 NOC，並且它們具有這些網路訪問埠。一些供應商正在積極地整合這些，有些供應商正在計劃下一代。每個人都在朝著這個方向前進。當然，就像這些技術中的任何一種一樣，儘管在行銷幻燈片上，它們看起來有點像仙塵，但細節中總有魔鬼。他們不能解決所有的問題，他們還有其他一些問題，其中之一就是你開始以千兆赫茲的速率在巨大的頻寬和總線寬度下切換東西......東西變熱了。

NOC往往會增加散熱，因為你翻轉的位越多，東西就越熱。它們走得越遠，它們的容性負載就越大。但是它們是一個很好的工具，現在正被社區利用，並且隨後將出現在所有硬體上，我認為。

斯蒂芬

而且，補充一點，你知道我喜歡的短語是“從消防水管裡喝水”。所以，你知道，我們想到這些令人難以置信的數據洪水速度和饋送。如果你想查看從主機從線路進入的每個數據包或每個位，你最好能夠使用它，對吧？否則，你實際上是在從消防水管裡喝水，這不會有好下場。

因此，我們必須確保我們可以在設備內移動這些數據。我認為傑夫關於熱的觀點 - 就像事情升溫一樣 - 這是一個非常好的觀點。所以，我喜歡我們與傑夫公司的合作夥伴關係的一大好處是，你知道，他的公司非常善於思考像熱這樣的事情。

傑夫提出這個問題的事實提醒我，這很重要。你知道，在我過去，我給FPGA程式設計過，但它並沒有變得很酷——就像沒有風扇吹過它一樣......我把該死的東西炸毀了！我要承認...也許我不應該（笑聲）！ 但是，如果這些東西在努力工作時變得如此之熱，所以它坐在那裡閑置 - 無所事事 - 那麼它很高興。然後我做到了...很多，突然間它變得非常非常熱，非常非常快。傑夫，你知道，傑夫的公司正在考慮這個問題。

傑夫

但是，您是否已經得到了一個足夠熱的焊點，它回流焊點並實際上從電路板上掉下來？

斯蒂芬

我還沒有這樣做。

傑夫

那時你才知道自己已經有了開始！

布萊恩

這很熱，夥計們，這很熱。

斯蒂芬

所以，比特韋爾和莫萊克斯照顧事情是很棒的。這就是他們帶來的體驗，“我們如何讓這些東西保持涼爽，這樣他們就不知道自己不會死？”是的，這真的很重要。

布萊恩

好吧，我們一直在談論很多關於數據的問題，對吧？讓我們深入研究一下。我們在數字領域談論了很多...讓我們也談談感測器內的數據洪流，對吧？FPGA如何幫助類比世界。傑夫，這可能是一個硬體問題。

傑夫

是的，而且也是超級深的。所以，有兩個快速的答案。

一個是大多數...BittWare曾經做過很多模擬介面板，並將它們轉移到信號處理資源中......主要是 FPGA。

現在有標準化，所以我們不再這樣做了。通常，當人們在發射器中將類比信號轉換或從數位轉換為模擬信號時，他們會在無線電頭或感測器頭的某個地方進行轉換。然後他們將其數位化，打包並移動它。

因此，我們現在大多數正在進行感測器介面和處理實現的應用-無論是JESD還是VITA49，還是新興的RF DIFI標準-我們都連接到一些標準的數據包協定，例如乙太網，它只是在移動數據。

另一種方式是（你知道，我們在談論 - 斯蒂芬在談論 - 關於小晶元和瓷磚）各種供應商現在正在添加類比到數位轉換器和數位到模擬轉換器作為斯蒂芬可以只是...訂單你知道，在這個顏色與那個功能。您可以使用ADC或不使用ADC獲得它，並且可以實際進行直接類比介面。

而且我們有 - BittWare擁有 - 硬體，可以將5 GHz的直接射頻帶入，並將其數位化...硬化的下變頻器，上變頻器，然後將其移動到FPGA結構中進行後處理。所以這是正在發生的方式之一。

尼科萊特

你知道，我們有很多來自觀眾的問題。我現在要打其中一個。我看看。。。您能否從成本角度談談FPGA在邊緣計算領域的可行性。FPGA是更適合設備邊緣還是本地邊緣？

傑夫

好吧，成本是带寬和性能之類的東西之一...你知道，這都是相對的，你知道嗎？當斯蒂芬談論樹莓派時，我有點畏縮，因為那是一個稍微不同的價格點。一般來說，FPGA並不便宜。

你知道，我們的銷售人員，我敢肯定，如果他們在聽這個，現在正在向我發射飛鏢。但自然...前幾天我聽到有人叫它的另一件事是 - FPGA是一個現場可程式設計門陣列，但它的另一個術語是一個靈活的，相當不錯的ASIC，對吧？我喜歡這種方法和那個術語。ASIC的開發成本非常高，一旦開發它們，部署起來也非常便宜，對吧？

FPGA以不同的方式做到這一點。開發仍然很困難，但它遠不如ASIC開發那麼昂貴。但設備本身的經常性成本要高得多。當您想要開始擁有PCB和電源以及熱約束時，它們可能是相當昂貴的解決方案。他們...當你得到一個足夠大的東西，價格佔主導地位時，人們會開車去ASIC，這隻是一種更便宜的部署方式，市場已經證明瞭這一點。

因此，FPGA非常擅長做一些您無法以更具成本效益的方式做的事情。從這個意義上說，FPGA可能非常便宜，因為無論硬體（以及我們合作夥伴的IP）有多昂貴，如果你不能以任何其他方式解決它，並且你正在為你的市場增加巨大的價值並擴大你的可用市場-這是一個非常有效的資金支出。但成本通常不是我們獲勝的地方。

夏普

但傑夫還有其他方式可以讓FPGA帶來價值。我同意你剛才所說的話，但我必須跳進去指出，儘管它們增加了成本——儘管它們增加了複雜性和集成挑戰——FPGA經常被用來將可能需要昂貴的重型內核的操作從AMD和英特爾卸載到相同的工作中。

淨收益...儘管許多應用程式不會進入「我的工作是減少使用的內核數量」。它通常是：工作是解決一個特定的計算問題。但在此過程中，他們最終意識到支援FPGA的解決方案（也許是因為數據從網路移動到記憶體再到存儲的方式有些聰明）必須減少移動，並且需要更便宜的重鐵，就像它一樣，特別是在數據中心或本地情況下，而不是在更功率敏感的現場情況下......以及「嗯，我需要不那麼強大的主機處理器來完成它」的成本節約......是經常性節省的費用，可用於為昂貴的FPGA開發和昂貴的電路板提供資金...

傑夫

這是一個總擁有成本的事情，我認為斯蒂芬在計算存儲中的應用與此特別相關，你知道，計算存儲解決方案，我認為沒有人會爭辯說是便宜的，但比替代品便宜。

布萊恩

我的意思是。。。讓我們來談談計算存儲...我還想談談移動數據，對吧？你知道，從你這個人的角度來看——謝普和斯蒂芬。

所以，我不知道你們是否想先談談計算存儲，然後我們可以先回去或移動數據？

斯蒂芬

是的，我會跳到計算存儲。所以，計算存儲-正在發生的事情是，你知道，世界正在產生的數據量，它只是呈指數級增長，對吧。我認為企業已經意識到的另一件事是，除非你能分析它並從數據中開發商業智慧和聰明的商業決策，否則這些數據是無用的，對吧。

存儲數據，你知道，沒有太多的意義。從這些數據中獲取見解現在是關鍵。公司希望快速做到這一點，他們希望有效地做到這一點。因此，他們注意到的是，與其將Shep提到的一大堆數據放回英特爾或AMD CPU內核並運行軟體，不如將查詢推送到存儲層，並讓存儲層運行此類任務。無論是資料庫查詢，還是對一堆感測器數據的AI推理，還是分析資料庫的某種業務指標。

因此，標準化正在我們稱之為計算存儲的領域發生。因此，除了擁有存儲數據的盒子或設備之外，我們還如何將計算查詢推送到這些盒子，無論是驅動器，SSD還是裝滿它們的盒子 - 就像NAS一樣，對吧？因此，標準正在圍繞這一點發展，FPGA可以發揮很大的作用，因為就像Shep提到的那樣，某些任務使用FPGA之類的東西可以更高效，更具成本效益。

但你也想要時間可變性。如果查詢改變了你，也許，希望功能改變，這就是FPGA真正閃耀的地方：能夠在時間“A”具有某種特徵，但也許在一天中的不同時間，你的工作負載會發生變化，你實際上希望處理能力改變其特徵。這在ASIC上真的很難做到，但用FPGA來說卻非常容易。

你知道，計算存儲...還涉及標準。就像我之前提到的，標準（在我看來）推動了市場的採用，從而壓低了價格。總是這樣，對吧？因此，購買一個FPGA可能會花費您很多。如果你進來要求五十萬個，你可能會得到一個更好的每單位價格。

傑夫

是的，還有另一點...就像FPGA的其他所有功能一樣：有廣泛的功能，你可以在Raspberry Pi領域購買FPGA，定價明智，但其中一些，你知道，單個晶元超過10，000美元（在極端情況下），BittWare同樣具有廣泛的動態範圍選擇。

因此，在 Stephen 的計算儲存應用程式中，當人們部署大量計算存儲加速器時，我們可以為有限的應用程式出售一千美元或更少的東西，我們知道用例是什麼。我們還有其他 400 千兆的商品，而對於解決方案來說，這些東西已經接近幾千美元了。

我們很快就會推出一些東西，這些東西將會隨著這些HBM和所有這一切而變得更加多。因此，成本範圍很廣。但是，當我們考慮Edge和IOT部署時，它只取決於你認為“很多”意味著什麼。

布萊恩

所以Shep，你想談談移動數據嗎？

夏普

確定。（笑）

尼科萊特

如果我們談論移動數據，我們可以在這裡呆一段時間，對吧？（笑聲）每個人都屈服了！

布萊恩

我們有25分鐘;我們很好，我們很好。

夏普

所以，謝謝你的問題。其中之一...我會說原子規則大帳篷IP產品是一個以阿克維爾命名的產品。阿克維爾是基於DPDK的數據行動器的原子規則品牌。它是一個IP核，可以相對容易地將大量數據從FPGA移動到主機記憶體或其他位置，而無需深入研究我正在談論的基於平台的設計的大部分較低級別，這對於同時實現高輸送量和相對較低的延遲至關重要。

這。。。從系統架構的角度來看，數據運動的整個概念真的非常簡單，對吧？例如，我在FPGA中有數據部分“A”，想要獲取數據以將“B”放置在主機記憶體中。軟體工程師可能想打電話給memcpy，或者，你知道，移動數據並做到這一點。

對於我們的客戶來說，我們的目標是使這種體驗盡可能接近他們所尋找的東西。從 FPGA 硬體到使用者託管記憶體的數據 — 無需提出任何問題。

是的，它比這複雜得多，但這就是我們的客戶所購買的。他們認識到，為了完成這個易於描述的任務，在它下面，有硬體設計，軟體設計，API設計，驅動程序設計，FPGA時序閉包 - 所有這些部分，並且在很大程度上，原子規則提供了一個完整的解決方案，如果實際上，從FPGA到看起來像主機記憶體的數據移動對你來說很重要，那麼它具有巨大的價值。

斯蒂芬

是的，也許只是為了跳進去並添加它。因此，Shep提到了DPDK，它是網路領域的主機軟體堆棧，旨在將流量從主機記憶體移動到網路或從記憶體移動到記憶體。我在存儲領域工作得更多，具有諷刺意味的是，存儲也與數據移動有關。磁碟上有數據，你想把它放到記憶體中，因為你想處理它，或者你在記憶體中有數據，你想進入磁碟，你想保持它的安全，因為它就像你愛的貓的照片，你愛你的貓......

因此，有相當多的存儲標準也與數據移動有關。所以，我們和謝普做著完全一樣的事情。我們在FPGA上的硬體中創建這些數據行動器，但隨後我們必須向主機和客戶呈現API。我們使用以存儲為中心的方法，而 Shep 使用以網路為中心的方法。

因此，對於我們來說，它是NVMe（NVM Express）之類的東西，並且今天筆記型電腦或遊戲PC中的許多SSD都有NVMe驅動器。另一個是SDXI，這是一個專門針對數據移動的新標準。因此，這些允許我們在FPGA上（我稱之為軟體供應商）與主機端易於理解的堆疊集成（在Shep的情況下是DPDK，在我的情況下更像是......諸如 NVM Express 或 SDXI 之類的東西）。

尼科萊特

好吧，夥計們，所以我想談談CXL。所以，當我們昨天聊天時，你知道，傑夫，你提到這是現在的流行語。我認為對我們來說，僅僅提到這一點很重要......談談與CXL合作的董事會的議程，然後在史蒂文和謝普之後，你可以分享一些關於你的想像力會如何處理這樣的事情。

夏普

好嗎，傑夫？

傑夫

嗯，CXL是...當然引起了大家的注意。再說一遍，我認為高層的承諾，如果你閱讀所有的新聞，你知道，有神奇的仙塵，讓每個人的問題都消失了。但事實並非如此，但它確實抽象（它是計算快速連結），它允許將IO /緩存/記憶體抽象和互連到一個連貫的域中，任何人都可以看到任何人的信息和數據。

這有多種方式正在實施。其中一件事 —— 雖然我認為它肯定會改變我們的行業，並極大地影響人們如何構建和部署解決方案 - 但在我看來，這還不完全清楚。我想沒有多少人說過，“啊！我明白了——我現在知道如何做所有事情。它開闢了人們以前沒有能力思考的全新維度和能力。我認為會有斷斷續續的開始，人們會嘗試，“哦，讓我們以這種方式連接它。哦，等等，那不是很好。你知道，也許有更好的方法來做到這一點。

另一件事是，從技術上講，這是伯爵的日子。因此，我們將在今年年底推向市場的FPGA，我們將支援CXL 1.1。會有...我認為，2將在2023年晚些時候問世。然後3.0已經被記錄，計劃和發佈，這更像是2024年的時間框架。因此，在硬體層面上，人們在如何使用CXL構建系統方面將會有一種演變，以及一種進化。

斯蒂芬

是的，如果我只是跳進去，我的意思是...因此，對於那些不知道的人來說，CXL是一種在與PCIe相同的布線上運行的協定。因此，如果您查看筆記型電腦、遊戲機或遊戲電腦（任何可以插入PCIe設備的位置），理論上，從現在起的幾年內，您可以插入CXL設備。

現在下一個問題是「我為什麼要這樣做？好吧，PCIe在數據移動方面有一些限制。最大的一個是它不是我們所說的緩存連貫性。因此，在將數據移動到圖形卡時，您必須小心一些，其中一些...或通過PCIe連接到網卡。我們的操作系統為我們解決了這個問題。

對於CXL，它實際上是一個連貫的協定。因此，它允許我們做一些我們無法用PCIe做的事情。現在，我們仍然能夠使用PCIe做很多事情，我們也可以用PCIe做很多事情。但是，就像傑夫提到的那樣，CXL開啟了一些新的範式。

而且，就像他說的，我們不太確定我們要做什麼。但是，根據我在行業中看到的情況，許多大型雲公司要做的第一件事就是記憶體分解。他們實際上會將處理器上的DDR通道中的一些記憶體移動到CXL卡上，甚至是像超大規模器（如谷歌）這樣的人的CXL架子。

現在我的看法是，如果你要這樣做，那麼也許你可以開始放置一些計算服務，這些服務可以像我們做計算存儲一樣在記憶體上運行。那麼，我們可以將計算推送到記憶體中嗎？而且，為了做到這一點，我們可能需要一些靈活的演算法，所以FPGA開始與我產生共鳴。所以，我認為這是FPGA具有很大潛力的一個領域。

我認為需要注意的另一點是：我們真的不知道它將如何發展 - 所以我們需要靈活性。所以，我認為FPGA在早期是有機會的，因為我們不是100%確定我們想要做什麼。因此，我們不會花費5000萬美元來記錄ASIC。我們將對 FPGA 進行實驗。我們可能會以合理的數量部署它們。我。。。不幸的是，你知道，如果應用程式足夠大，有人會說，好吧，我要在這個上旋轉一個ASIC。

但我認為存在靈活性的機會，因為工作負載確實會發生變化，我對這種潛力感到非常興奮。

夏普

所以，斯蒂芬，所以我有...我想我們中許多一直關注CXL的人都聽說過，記憶體分解將成為CXL的“啊哈”時刻。但是我很難接受分解記憶體對這些記憶體載入的延遲意味著什麼，並存儲到實際使用它的用戶端。

我想這是CXL必須應對的一個挑戰，因為，你知道，你今天在當代主機處理器上談論的是幾十納秒，在CXL現在希望討論的那種SerDes上達到數百納秒。所以，我個人...我不想打賭，但我不認為這種情況會立即發生。

就我們而言，在原子規則中，我們正在做些什麼來立即獲得CXL...英特爾已經憑藉其 I 系列 Agilex 設備積極走出了大門...我們之前談論的是小晶元和瓷磚...相應的R-tile（我們今天將其用作Gen5阿克維爾的一部分...正在阿克維爾22.07發貨）-我們沒有CXL我想明確一點-但是那個R-tile正在啟用PCI Express Gen 5...我們已經採用了英特爾並排使用 CXL 和 PCI 的能力，並且我們已經採取了...今天，我們很少有客戶需要Gen5 x16的完整消防水管。他們中的一些人當然想要這樣，我們肯定會為他們服務。但是，讓我們說，你知道，100千兆乙太網或多個百兆乙太網或100千兆管道今天比400千兆位更受歡迎。

我們已經採用了這些 100 千兆位和 400 千兆位流，將它們分開，以便今天在英特爾的 I 系列 R-磁貼上，我們可以讓 Arkville 使用 gen5 x8 端點（可用頻寬的一半），並將另一半 R- 磁貼通道用於 CXL。需要明確的是，原子規則為零...今天支援CXL功能的零產品。

我們正在密切關注它，因為其他人非常仔細地看待它，我們認為這需要一些學習。但。。。我們朝這個方向邁出的一小步並沒有採取任何會阻礙CXL採用的舉動，例如，“好吧，你知道，如果你想使用原子規則，那麼你就走上了PCI路徑，你不能讓CXL使用它。我們恰恰相反。如果您希望將CXL與PCI混合，則可以同時使用它們。

布萊恩

因此，這是另一個觀眾的問題：“您是否預見到更高的光學I / O，例如具有FPGA要求的協同封裝光學器件，對SmartNIC的要求越來越高，超出了可程式設計可插拔接收器的功能？我認為這就是他們所要求的。收發器很抱歉。

傑夫

答案是肯定的，我希望他們現在就在那裡。我講的一個小軼事是，當我在八十年代開始我的職業生涯時，我和一些人一起工作，他們正在談論，你知道，這些後飛機上的所有這些銅的東西都是舊聞。我們將在未來幾年內轉向光學背平面和光學互連（請注意，這是在八十年代）。當然，這些都沒有實現。

現在 Molex 在這方面做了很多工作 — 這不是我的專業領域，我不熟悉我們在那裡做什麼 — 但肯定有一種願望和行動，隨著我們越來越快地發出信號，將這些東西從晶元中取出，從封裝到PCB，再到連接器，更有效。

而最終的辦法是 在某個時候必須是光子學。這有兩個層次。一種是通過銅以某種方式將晶元連接到封裝中的光學引擎，然後將光學器件插入封裝中。人們談論和工作的另一種方式是將光學引擎集成到矽中。而你只有一個鐳射...在你的骰子上，射出，那就更遠了。我對此知之甚少，但我希望這是真的......但我不會指望這一點。

斯蒂芬

是的，我認為這是小晶元技術的另一個機會。這也是為什麼像UCIe這樣的東西讓我興奮的原因，因為，你知道，矽光子學和類似的東西通常需要一個完全不同的製造工藝，而不是FPGA柔性邏輯想要的製造工藝。這也再次與ARM內核想要的有所不同...這與類比收發器想要的再次不同。

因此，小晶元技術：我們實際上可以選擇不同的工藝，甚至可能是非矽基半導體（如果有意義的話），這在矽光子學中經常這樣做。但我同意傑夫的觀點。我敢肯定，Jeff 的客戶今天想要最快的速度和饋送 — 這需要光學器件，尤其是晶元外的光學器件 — 而我們還沒有完全做到這一點，但我們需要實現目標，因為數據洪流只會繼續增長。

夏普

是的，但是...光子學有它的位置，如果我們要以這種方式展望未來，它肯定是你必須去的地方。我個人認為，我們正處於一個時代，在過去幾十年中，SerDes技術的巨大而巨大的收益可以被收穫，然後我們才會舉起手來，說我們已經完成了類比。此時，我們剛剛進入 PAM4 信號。而且，你知道...我們知道，我們看到了道路的盡頭。

但是有很多機會來降低功耗，降低複雜性 - 使這些子系統對於第5代PCIe和CXL等設備的工作至關重要...工作更容易，價格合理 - 不需要10，000美元的FPGA來承載該基板。而且我認為市場可能會為無聊的老人找到機會......如今的32 gig SerDes可以找到一種方法來降低成本並將其放入更便宜的FPGA中，從而產生看起來更像當今解決方案的解決方案，但功耗更低，成本更低。

尼科萊特

好吧，讓我們來回答這個問題。“需要什麼樣的技能才能將裸露的FPGA變成解決特定問題的東西？如何利用你們的工作使我的 FPGA 部署更加成功？所以我...斯蒂芬，也許你可以拿這個？我認為我們可以在這裡談談合作夥伴關係，這可能是一個很好的機會。

斯蒂芬

是的。我的意思是，我認為，你知道，有幾件不同的事情。你知道，首先，對於任何正在聽這個網路研討會的人來說，“我有點想玩，我想用FPGA弄髒。我會說，你知道，在工具上有驚人的發展，你知道，基於學術的平台，學習如何使用FPGA。

現在有一個很大的驅動力，要讓更多的FPGA流開源——供應商中立。有一些很棒的程式，如果你谷歌他們，可以做到這一點。還有一些驚人的在線學習。所以，如果你想學習——比如你想成為一個極客，你知道——那裡真的有好東西，值得挖掘並開始玩。你可以買一個便宜的板...，則可以將其連接到筆記型電腦或桌上型機。你可以上網——有YouTube視頻，有免費課程，你可以立即開始玩這些東西，這是一個非常好的起點。

現在，如果你對部署FPGA來解決你的業務的特定問題更感興趣，如果你不想自己做，那就是你去找像Shep和我這樣的人，讓軟體提高抽象水準，這樣你的工程師就不必談論FPGA語言。低級FPGA語言是像Verilog，VHDL和系統驗證 - 它們，你知道，它們是計算機程式設計代碼，但它不是C，它不是Python。它的水準要低得多。

而且，你知道，我們公司內部的團隊在使用這些語言方面非常有經驗，但這不僅僅是使用這些語言。從建築師的角度來看，這是理解，這些東西將如何建造？

我總是認為FPGA就像，當它剛剛打開時，它幾乎就像一個建築工地。你有所有這些資源，比如木材，你知道，水泥等等。而傑夫的...

傑夫

別忘了我的管道！

斯蒂芬

...傑夫的公司提供了所有這些。所以你出現了...我的公司來到建築工地，說：“好吧，我們有一個廢話（請原諒語言）一堆垃圾材料。我們今天要建造什麼？右？我認為自己是我們公司的那種建築師。所以，我進來看看資源，我看看客戶想要什麼，我想，好吧，他們想要一個......他們想要一座摩天大樓。好吧。所以，它將開始看起來像這樣。

我會在我們需要這個塊的高水準上做一些事情。我們需要這個塊。然後團隊進來了，他們更像是...你知道的——施工團隊。我們該團隊擁有專家。所以，我們有相當於電工，水管工和腳手架的人。

所以，他們開始一起建造這個。到最後，我們實際上在FPGA的網站上有一個建築物，我很抱歉這個類比的效果非常糟糕，但是（笑聲）這就是我對它的看法。所以，你需要多種技能，對吧？你需要一個建築師...你需要建築工人和項目經理，電工和水管工。

通常，這些人是，你知道的，具有多年經驗的研究生水準。我們有一大堆工具，我們用它來使它更容易。然後，最終，它使部署更容易的方式是我們提高了抽象級別，並向客戶展示了一個API-無論是Shep的API還是我們的API，還是基於標準的API，如英特爾的oneAPI，因為它使他們的生活更輕鬆。

布萊恩

現在，我知道當我們前幾天談話時，我們談論的是阿克維爾作為數據移動者。您能解釋一下數據行動器和 DMA 引擎之間的區別嗎？

夏普

確定。我們經常遇到這個問題。DMA引擎的根源在於在計算機上執行數據複製的實際硬體，可以追溯到早期的計算機體系結構：少數計數器，源位址，目標位址......軟體以計數開始，數據從一個地方移動到另一個地方。這幾乎總結了大多數硬體，軟體和系統工程師所認為的DMA引擎。

但是，Arkville作為數據行動的解決方案 - 從FPGA到主機記憶體或相反 - 不僅包括記憶體緩衝區的低級移動，顯然，由於記憶體在FPGA上或記憶體在主機中，它們是抽象的，也許它們是流，也許它們是消息。我們想要呈現一個像DMA一樣簡單的介面：“哦，這裡源，目的地在這裡，數一數，然後去吧！” ..但是，在這個更高的層次上。

對於硬體工程師來說，這意味著用於將數據傳入和傳出模組的標準工業 API。在軟體方面，它意味著一個指向記憶體的標準虛擬指標，因此您可以生成它，也可以使用它。

這兩種行為之間發生了什麼，比如說，在FPGA中生成數據，然後在主機中消費數據，或者相反？我們不會說我們的客戶不關心那裡發生了什麼，但他們希望為他們完成。他們想要的是動作是如何編排的，以及它是如何進行的。它需要高性能，從某種意義上說，它具有這樣或那樣的輸送量，它必須具有這樣的延遲，並且提供的價值是它是另一個平臺。為他們提供了數據運動平臺，他們可以繼續他們的應用程式。

當然，如果你的需求是專業化的，而我們提供的模式不是正確的事情，正如斯蒂芬剛剛說的那樣，“這是一個FPGA，去做任何你需要的事情;你有這種能力。

我們利用了在 AXI 介面中看到的一組標準，例如在硬體方面或 DPDK 作為標準的 Linux 基礎軟體 API，並且取得了成功，因為有足夠多的人發現，“嘿，我不想自己這樣做。我可以從原子規則中購買它，或者我可以從BittWare / Molex獲得該板，這對我們有用。

尼科萊特

所以，我們還有大約4分鐘的時間，我想知道我們是否可以在結束之前觸及最後一件事。如果我們還沒有回答您的問題，請不要擔心BittWare和團隊會提出您的問題，以便他們可以在活動結束後解決這些問題。

但我想很快地談談開源，以及它的重要性以及開放標準對採用基於FPGA的解決方案的重要性。所以，也許任何標準都非常重要，斯蒂芬，也許你可以接受這個？

斯蒂芬

當然，是的。我的意思是，在計算存儲空間中，我們正在標準化NVMe（NVM Express）中我們所謂的命令集 - 希望你們中的大多數人都聽說過並且現在可能正在大多數筆記型電腦中 - 談論計算和存儲。因此，如果我們想要一個可以將計算任務推送到FPGA的API，我們將能夠利用這個非常開放的標準。

這樣做的好處是：我不再需要讓我的團隊在Linux或Windows中編寫驅動程式;NVMe 驅動器已存在。我知道今天發佈的每台伺服器，今天發佈的每個台式機都支援NVMe，因為這是我們啟動操作系統並從中載入遊戲和其他東西的固態硬碟的動力。

因此，這讓我的生活變得容易得多，它也創造了一個生態系統，因為它不再僅僅是關於Eideticom。這是關於任何在這個NVMe計算存儲空間中玩遊戲的人。所以這創造了競爭，你知道，這不一定是一件好事，但我實際上認為這是一件好事。對我來說更重要的是，它創造了一個生態系統，生態系統推動了採用。採用會壓低價格，從而增加採用率，你就會得到良性迴圈。

所以，我非常相信開源和開放標準。我們在Linux內核和SPDK等方面做了很多工作，這相當於Shep之前所說的存儲（DPDK）。

再說一遍，我認為在社區內進行這種協作非常重要，讓許多不同的公司關注代碼，「我們如何使它變得更好？我們如何使它更安全？我們如何使它更有效率？

再說一遍，我認為這隻會帶來更好的採用。我喜歡這樣。

夏普

斯蒂芬剛剛說的每一句話——這真是太棒了——但我也想補充一點：以這樣一種方式回饋社區，讓代碼經過審查並變得可信。當然，沒有人想要一個專有的解決方案，所以在GitHub上放一些在某個地方可用的東西很有趣。

但是你知道什麼更有價值嗎？讓Linux基金會及其各個小組審查您的代碼，以便您開源的部分受到整個社區的信任和審查。這個過程，我知道Eideticom和原子規則也是如此，對所有這些都至關重要，因為當信任圈包括行業中的巨頭時，這些開原始程式碼的價值就會被放大。

布萊恩

好吧，夥計們，我們的時代即將結束。我希望我們有...我們在這裡有很多很棒的問題。各位，感謝您加入我們今天的即時聊天。感謝我們的贊助商，貿澤電子，比特韋爾和莫萊克斯。感謝我們出色的小組成員加入我們。

尼科萊特

是的，非常感謝。

布萊恩

祝大家有美好的一天。