網誌

Slide One

網誌

最近DeepSeek在各大榜單中擊敗OpenAI,成為最熱門應用程式。 然而,公眾對於監管議題的擔憂可能影響DeepSeek的輸出質量,市場亟需一個沒有審查的DeepSeek版本。將DeepSeek託管於私人環境中似乎是一個解決方案,尤其對於那些高度重視數據安全性的人士而言。 託管一個自有大型語言模型(LLM)不僅僅是設置一個虛擬機或雲端實例訂閱,還有其他關鍵因素如網絡安全、身份驗證管理、防火牆等。儘管有這些因素,以下為您的快速參考表格。 要素 詳情 硬體配置 高性能CPU、大容量RAM、大量存儲空間 雲端服務提供商 AWS、Azure、Google Cloud等 網絡安全 防火牆、入侵檢測及防禦系統(IDS/IPS) 身份驗證管理 多因素身份驗證(MFA)、角色基礎訪問控制(RBAC) 數據備份 定期數據備份、自動快照 計算擴展能力 調整計算資源以應對動態需求 實時監控 系統健康狀態監控、性能分析工具 服務持續性 高可用性方案、負載均衡 至於DeepSeek 各款LLM所需的計算能力,可參考我們的Facebook 最近DeepSeek在各大榜單中擊敗OpenAI,成為最熱門應用程式。 然而,公眾對於監管議題的擔憂可能影響DeepSeek的輸出質量,市場亟需一個沒有審查的DeepSeek版本。將DeepSeek託管於私人環境中似乎是一個解決方案,尤其對於那些高度重視數據安全性的人士而言。 託管一個自有大型語言模型(LLM)不僅僅是設置一個虛擬機或雲端實例訂閱,還有其他關鍵因素如網絡安全、身份驗證管理、防火牆等。儘管有這些因素,以下為您的快速參考表格。 硬體配置 詳情: 高性能CPU、大容量RAM、大量存儲空間 雲端服務提供商 詳情: AWS、Azure、Google Cloud等 網絡安全 詳情: 防火牆、入侵檢測及防禦系統(IDS/IPS) 身份驗證管理 詳情: 多因素身份驗證(MFA)、角色基礎訪問控制(RBAC) 數據備份 詳情: 定期數據備份、自動快照 計算擴展能力 詳情: 調整計算資源以應對動態需求 實時監控 詳情: 系統健康狀態監控、性能分析工具 服務持續性 詳情: 高可用性方案、負載均衡 至於DeepSeek 各款LLM所需的計算能力,可參考我們的Facebook Contact us 公司名稱* 姓名* 電郵* 電話* 內容...
Running DeepSeek locally: What you need to know DeepSeek R1 includes a range of text-based models plus a 70B Vision variant for image analysis. Here’s a rundown of its various model sizes. 模型 最低要求 模型 最低要求...
馬來西亞稅務局 (IRBM) 規定所有納稅人在2025年前必須轉向電子發票 (e-invoicing),首先要求年營業額或收入超過一億馬幣的企業於2024年8月前開始使用。 該系統將提供近乎實時的驗證,並可以通過與企業資源規劃系統(ERP)連接的應用程式介面 (API) 或直接訪問 MyInvois 門戶。   馬來西亞政府公佈 2023年10月公佈的2024年 Madani 預算計劃,強調旨在鼓勵國內中小企業 (SMEs) 進行數位轉型,並致力於擴展數位經濟。首相拿督斯里安華依布拉欣宣布其中一項措施,即引入強制性電子發票要求以結束紙質發票,並支持擴展納稅識別號碼 (TIN)。該試點項目將由馬來西亞稅務局 (IRBM) 牽頭,目的是數位化企業並減少稅收漏洞。   2024年8月1日起,馬來西亞開始實施電子發票計畫,首階段適用於年營業額超過RM1億的納稅人。根據市場研究顯示,自2024年8月1日首階段實施以來,少於50%的納稅人為電子發票落實作出準備。 為協助中小微企業,馬來西亞內陸稅收局(IRB)提供對年收入低於RM 150,000的納稅人六個月的寬限期,並開發名為MyInvois的電子銷售點系統(e-POS)以確保電子發票順利過渡,儘量減少對業務運作的影響。政府計劃逐步將所有與稅務有關的文檔,包括電子發票,數字化以提高透明度、簡化稅務稽查及提升馬來西亞稅務架構的效率。 政府提供的配套措施下,預計馬來西亞將在2025年中期全面實施電子發票。2025年預算案引入多項獎勵措施,通過減少整合成本為企業提供支援,令電子發票的推行更加可負擔。   什麼是電子發票(e-invoicing)? 電子發票(e-invoicing)指的是供應商和買家之間交易的數碼副本,這樣可以即時驗證和透明存儲交易數據。發票數據會包括供應商及買方的資料、購買項目或服務描述、數量、不含稅價格及含稅總金額。 在試點計劃中,將被數碼化的文件有: 發票:供應商和買家之間的支付交易記錄,亦包括由客戶準備並向供應商發送的自開電子發票。 貸方通知單(Credit notes):由賣方發出以調整錯誤或應用折扣的文件,也可以記錄買家退回的物品。 借方通知單(Debit notes):記錄已經發出發票但需要對客戶增加額外費用的文件。 退款通知單(Refund notes):記錄向買家退款的文件。 若買家未有要求或不需要發票作為報稅用途,可以統一發出綜合電子發票,無論是企業對企業(B2B)、企業對消費者(B2C)或企業對政府(B2G)的交易。在寬限期內,這項豁免適用。   電子發票(e-invoicing)實施時間表 IRBM分階段推出電子發票計劃。截至2024年1月,已有超過50家公司確認參與電子發票的實施。以下是電子發票實施的關鍵日期: 2024年8月1日:對年收入或年營業額超過1億馬幣的納稅人強制實施。 2025年1月1日:適用於年收入介乎2500萬至1億馬幣之間的納稅人。 2025年7月1日:全面實施,適用於所有其他納稅人。 然而,需要注意的是,IRBM鼓勵所有企業儘早採用電子發票。   電子發票(e-invoicing)政策目標 電子發票如何提升企業運營? 電子發票的實施旨在將企業之間的發票傳送數碼化,允許不同的企業資源規劃(ERP)及會計系統能夠以系統對系統的方式傳送及接收交易文件。其目標包括: 提升馬來西亞稅務管理的效率。 終結傳統紙張發票,防止稅務洩漏。 幫助企業在滿足稅務合規方面節省資源和時間。 標準化格式以提升國際貿易的便利性。   受影響範圍 根據上述的電子發票實施時間表,受影響的業務取決於你的業務規模。最終,這項計劃將於2025年7月1日起對馬來西亞所有企業強制執行。馬來西亞內陸稅收委員會(IRBM)可參照1967年所得稅法在不合規情況下啟動檢控行動。   電子發票(e-invoicing)有什麼好處? 採用電子發票,企業可期望營運更簡化,減少人為錯誤及提高效率,同時符合本地的稅務法規及合規要求。 減少人為錯誤及手動工作:系統可統一發票過程中的數據輸入,從創建到提交交易文件和數據都能電子化處理。 有效的稅務申報和合規:系統允許準確的稅務申報,與現有系統無縫整合,此功能亦能使稅務申報更加準確。 符合稅務法規及合規要求:電子發票系統確保企業遵循稅務法規及法律發票要求。 數碼化稅務及財務報告:按照行業標準,財務報告及流程將數碼化進行。   如何開始使用電子發票(e-invoicing)? 電子發票有兩種主要實施方法,分别是Mylnvois入口網站和應用程序接口(API)。 Mylnvois入口網站: 用於手動輸入和管理發票資料 使用者只需登錄網站,填寫有關發票的相關資料,系統自動生成電子發票 不需高技術背景,適合中小型企業 應用程序接口(API): 通過軟件自動生成和傳輸發票 需要軟件開發能力以便整合到企業內部系統 更適合有大量發票需求的大型企業,能提高工作效率並減少出錯機會   什麼是MyInvois Portal? MyInvois Portal 由馬來西亞內陸稅收局(Lembaga Hasil Dalam Negeri Malaysia, LHDNM)主持。此平台設有綜合表格,用於個人電子發票生成,同時允許通過上傳電子表格進行批量生成,以處理多筆交易。該方法適用於所有納稅人,尤其中小企業交易量較少時特別合適。 系統操作步驟如下: 第一步:電子發票發行 一旦交易完成,供應商會生成並發行電子發票給稅務機關。數據字段應包含買方名稱、納稅人識別號(TIN)、註冊識別號、地址、銷售及服務稅註冊號(SST)等詳細資料。 第二步:電子發票驗證 馬來西亞內陸稅收局將實時驗證文件並向供應商發出唯一識別碼(UIN)。UIN能夠幫助稅務機關追踪發票,減少篡改風險。 第三步:驗證通知 IRBM會根據所使用的平台通知相關雙方電子發票已被驗證。...
根據不同因素,企業有時會選擇使用開放源碼的大型語言模型(LLM)在其AI應用程式中。選擇這種方法的人通常希望節省調用API的成本,或不信任AI服務提供商的數據保護設施。 Multiable沒有對任何一個支持私有部署的LLM有傾向性,以下是自有LLAMA(目前其中一個比較受歡迎的開放源碼LLM)在亞馬遜網絡服務(AWS)上運行的成本分析。 很多人在計劃在雲端設立一個“可用”的LLAMA時常犯錯誤,忽略了生產運行所需的一系列雲端服務。多數IT人員可能會按UAT環境的成本來申請預算,系統上線後才發現嚴重超支。 事實上,托管大型語言模型架構(LLAMA)在AWS上涉及多種成本組成,這些成本與AWS的不同服務有關。 Amazon EC2 (Elastic Compute Cloud): 價格取決於所選的實例類型和配置。建議使用GPU實例,如p3.2xlarge進行密集的機器學習任務。 p3.2xlarge實例:約每小時USD3.06。 p3.8xlarge實例:約每小時USD12.24。 預留實例和Spot實例可以提供顯著的成本節省。 Amazon S3 (Simple Storage Service): 用於存儲數據集和模型檢查點。 標準存儲:每月每GB USD0.023。 不常訪問的存儲:每月每GB USD0.0125。 Glacier存儲(用於歸檔模型):每月每GB USD0.004。 Amazon EBS (Elastic Block Store): 為EC2實例提供持久塊存儲。 通用型SSD (gp2):每月每GB USD0.10。 Provisioned IOPS SSD (io1):取決於配置的IOPS和存儲大小而不同。 Amazon VPC (Virtual Private Cloud): 在服務之間數據傳輸可能產生網絡成本。 數據傳出:每月前1 GB免費,每月10 TB以內每GB USD0.09。 AWS Lambda: 用於任何需要的無伺服器函數處理。 Lambda函數:每百萬次請求USD0.20,每GB秒計算時間USD0.00001667。 Amazon CloudWatch: 為基礎架構提供監控和日誌服務。 自定義指標:每月每個指標USD0.30。 日誌:每GB USD0.50,存檔每GB USD0.03。 根據多種因素,托管和運行自有LLAMA在AWS上的年度成本如下: 計算:AWS提供適合大型語言模型的多種實例,例如基於GPU的EC2實例。使用p3.8xlarge實例,成本約為每小時USD12.24,每年持續運行約花費USD107,136。 存儲:Amazon S3或EBS提供靈活的存儲選項。高性能EBS約每GB每月USD0.10,假設需要10 TB,存儲成本約為每年USD12,000。 網絡傳輸:數據傳輸成本各異,但如果估計每月USD500,則每年約USD6,000。 附加服務:利用AWS Lambda、API Gateway或其他服務,額外成本約USD5,000。 概算結果: 計算:約USD107,136 存儲:約USD12,000 網絡傳輸:約USD6,000 附加服務:約USD5,000 總計:約USD130,136每年。 請注意,僅僅上述內容涵蓋了AWS雲服務的費用。所涉及的勞動成本尚未提及,並且根據個別客戶的需求可能會有很大差異。 LAIDFU,一個以無代碼方式(No Code Approach)可配置的企業AI Agent,允許用戶在其應用程序中運用不同的AI服務提供商,包括OpenAI、百度以及自己的DeepSeek或LLAMA。用戶可以自由選擇最合適的大型語言模型 (LLM) 來執行用戶定義的使用案例,針對各種業務流程進行操作。 探索更多有關 LAIDFU 聯絡我們 公司名稱* 姓名* 電郵* 電話* 內容...
ERP系統是甚麼?   ERP系統係企業核心流程嘅整合,把各部門作業流程整合成一套綜合資訊系統,大致可以分成「財務會計」、「人力資源」、「製造生產」、「進銷存管理」;再根據行業唔同嘅需求,新增例如「CRM(顧客管理)」、「POS系統」、「電子商務相關」等唔同嘅模組功能。各模組之間嘅資訊可以互相流通,達到企業管理上嘅資訊即時與共用。例如,當生產嘅產品入庫後,其他部門嘅人員可以馬上睇到最新嘅庫存,採購人員可以即時分析目前嘅銷售同庫存狀況,以便執行追加商品嘅決策。   POS系統是甚麼?   POS系統主要用作協助店鋪處理銷售作業,有軟件資訊及硬件的整合。舉例,門市埋數使用刷卡機/POS機、開立發票用發票打印機、條碼掃描槍用於快速結帳。同時,結帳過程會處理庫存更新。依據不同零售產品/服務,POS系統功能有顯著差異,比如時裝的POS系統與超市、一般賣場的POS系統,就已經有著明顯分別。POS系統的銷售及庫存資訊屬於企業的ERP系統範疇。   都是POS系統,為什麼有些POS系統價錢是其他的十倍甚至幾十倍?!   POS 系統之間的差異巨大,原因涉及多方面。首先,小型零售商普遍誤解 POS 系統僅僅是電腦化的收銀機,因此很多收銀系統供應商為了吸引這部分顧客,通常採用低價策略,故意將他們的收銀機解釋為 POS 系統。然而,完整的 POS 系統遠不止於收銀機。 完整的 POS 系統應包含靈活的會員功能、庫存店鋪間 / 倉庫間轉移、各種促銷方案等多種零售業所需的重要功能。這種錯誤認知 (現金/信用卡機就是POS 系統),往往導致零售商在後續運作中面臨高昂成本。 請緊記!!! 如果僅僅將簡單的現金/信用卡機誤認為 POS 系統,零售商可能背負不必要的經營風險及成本。因此,理解和選擇合適的 POS 系統對於零售業經營至關重要。   POS系統與ERP系統該如何整合?   早期ERP系統開發商與POS系統開發商通常是不同的,導致是獨立的兩套系統。ERP需要各分店 (POS)資訊,必須透過排程定時將資料取回。對於經營連鎖POS的企業來說,資料的即時性非常重要,例如門市之間的庫存查詢調貨、顧客VIP消費、點數等資訊查詢,都需要透過整合兩大系統才能達成。   通過整合POS系統與ERP系統而產生的優勢:   即時更新銷售資訊 POS系統整合後,門市與系統可即時提供銷售戰情,隨時將銷售資訊回傳總公司ERP系統,並搭配人工智能 (Artificial Intelligence) AI的戰情分析,不受時間及地點限制查詢即時銷售狀況。使用手機、平板等可上網設備,即可進入戰情畫面,了解各區及季節性促銷活動(如聖誕節)的銷售狀況。   庫存即時補貨 ERP系統整合後可即時反應安全庫存,啟動倉庫調補貨機制。具備即時反應功能及補貨機制公式化,可建立自動化補貨系統,提高商品周轉率。特別針對少量多樣商品,取代以往電話詢問庫存調貨方式,門市間查詢庫存快速,公司在勻貨機制上更具彈性及靈活性。   會員統一管理 所有連鎖門市共用會員,提高會員消費方便性。例如:某消費者在甲店新加入會員後,乙店可同步更新會員資訊,避免重覆申請,會員可到任何門市查詢個人資訊。對公司而言,整合後ERP系統能提昇有效會員管理效率,深入了解顧客消費習性及地區消費狀況,設計針對特定會員的促銷活動,利用精準行銷提高銷售業績。   門市即時管理 門市日常管理透過POS系統執行,整合後可將員工出勤管理應用於POS系統,並即時反應至總公司ERP系統。有效管理人員出勤,為ERP系統提供薪金、佣金計算依據。各區門市督導人員透過線上查詢即可了解當日開店情況。   電子商務整合 先進的企業資源規劃 (ERP) 系統不僅整合了銷售點系統,還整合了各種電子商務平台 (例如 Shopify, Amazon, Shopee, Lazada, Magento, Tiktok 等等)。銷售管理可以實時掌握線上和線下渠道的銷售趨勢。定價策略和庫存分配決策在企業資源規劃系統的幫助下更加合理和高效。   關於 aiM18 一款雲端原生 ERP (Cloud Based Enterprise Resources Planning),在亞洲區廣泛採用。該產品已經擁有超過 6,000 位客戶,涵蓋不同領域,包括製造商、分銷商、零售商、服務提供商及非政府組織。其著名的無代碼設計 (No Code Approach) 令客戶省下一大筆定製成本以及無數的實施人日。   關於 LAIDFU 一款多重 LLM 基礎的企業 AI Copilot。繼承了...