<strong>Năm 2023 đã chứng kiến một bước phát triển nhảy vọt của công nghệ Trí tuệ nhân tạo (AI – Artificial Intelligence), đặc biệt là công nghệ AI tạo sinh (Generative AI) với sự ra đời và ngày càng trở nên phổ biến của ChatGPT (Generative Pretrained Transformer) và các Mô hình ngôn ngữ lớn (Large Language Models – LLM).</strong>

ChatGPT và LLM đã đạt đến khả năng thông hiểu ngôn ngữ tự nhiên và ra quyết định như người trưởng thành có tri thức. ChatGPT cán mốc 1 triệu người sử dụng chỉ trong vỏn vẹn 5 ngày, một kỳ tích chưa từng có trong lịch sử các nền tảng công nghệ. Kể từ đó đến này, các gã khổng lồ Big Tech và <a href="https://varsland.vn/tin-tuc/viet-nam-thang-hang-trong-linh-vuc-tri-tue-nhan-tao/">AI</a> Start-up đã và đang chạy đua với nhau, giới thiệu ra công chúng hàng chục mô hình LLM khác nhau, phần lớn dưới dạng mã nguồn mở như LaMDA (Google AI), Megatron-Turing NLG (NVIDIA), PaLM (Google AI), Llama-2 (Meta AI), Bloom (Hugging Face), Wu Dao 2.0 (Beijing Academy of Artificial Intelligence), Jurasic-1 Jumbo (AI21 Labs) và Bard (Google AI),…

Bên cạnh cuộc đua nói trên, việc ứng dụng ChatGPT và LLM vào sản xuất kinh doanh cũng đang diễn ra sôi nổi. Theo báo cáo của tổ chức Master of Code Global: “Thống kê về việc sử dụng ChatGPT và LLM trong sản xuất kinh doanh: báo cáo năm 2023,” 49% các công ty đang sử dụng ChatGPT, 30% dự định sẽ sử dụng ChatGPT trong tương lai. Một báo cáo khác của tạp chí Forbes chỉ ra rằng 70% các tổ chức doanh nghiệp đang tìm hiểu đánh giá công nghệ AI tạo sinh, bao gồm LLM. Điều này cho thấy LLM đang được cộng đồng doanh nghiệp đặc biệt quan tâm. Ngày càng nhiều doanh nghiệp nhận ra tiềm năng của LLM trong việc thay đổi mang tính cách mạng hoạt động sản xuất kinh doanh.

Trong bài báo này, Giám đốc Khoa học Trí tuệ nhân tạo của Tập đoàn Verysell, tiến sĩ Đào Hữu Hùng sẽ chia sẻ những góc nhìn sâu sắc và chiến lược về tương lai của AI và tác động của nó đến doanh nghiệp và xã hội.

<img class="aligncenter wp-image-20632 size-full" src="https://static.vars.vn/news/s1/media/2024/02/ew-generative-ai-versus-machine-learning.jpg" alt="" width="1000" height="643" />
<h1>AI tạo sinh dữ liệu đa phương thức (Multimodal Generative AI)</h1>
Mặc dù ChatGPT và các mô hình ngôn ngữ lớn LLM đã thể hiện được hiệu năng siêu việt trong việc thông hiểu ngôn ngữ tự nhiên ở dạng văn bản, nhưng văn bản chỉ là một loại dữ liệu mà con người tiếp nhận và xử lý hằng ngày. Chúng ta giao tiếp và tương tác với nhiều loại dữ liệu khác nhau từ văn bản cho đến hình ảnh, video, và âm thành,… Dữ liệu đa phương thức cũng đặt ra những thách thức to lớn cho các hệ thống trí tuệ nhân tạo, bao gồm tính đa dạng dữ liệu, sắp xếp dữ liệu, hợp nhất dữ liệu, biểu diễn dữ liệu, độ phức tạp mô hình, chi phí tính toán và phương thức đánh giá. Vì vậy, cộng đồng nghiên cứu AI thường lựa chọn giải quyết thành công dữ liệu đơn phương thức trước khi đối mặt với những loại dữ liệu phức tạp hơn.

Thành công vượt bậc của mô hình ngôn ngữ lớn LLM tạo động lực to lớn cho cộng đồng nghiên cứu AI phát triển mô hình dữ liệu đa phương thức lớn (Large Multimodal Model – LMM), với khả năng đạt được mức độ tổng quát và biểu đạt tương tự, đối với dữ liệu đa phương thức. LMM có thể tận dụng nguồn dữ liệu khổng lồ đa phương thức và thực hiện các nhiệm vụ đa dạng mà không cần phải tinh chỉnh lại mô hình. LMM có thể giải quyết nhiều nhiệm vụ phức tạp liên quan đến cả văn bản, hình ảnh, âm thanh, video,… chẳng hạn như mô tả hình ảnh, trả lời câu hỏi về nội dung một bức ảnh và chỉnh sửa hình ảnh bằng các lệnh ngôn ngữ tự nhiên,…

OpenAI đã tiên phong phát triển GPT-4V, phiên bản dữ liệu đa phương thức được nâng cấp từ mô hình GPT-4. GPT-4V có khả năng hiểu và tạo thông tin từ cả văn bản và hình ảnh. Nó có thể thực hiện nhiều nhiệm vụ như tạo hình ảnh từ mô tả văn bản, trả lời câu hỏi về nội dung một bức ảnh và chỉnh sửa hình ảnh bằng các lệnh ở dạng ngôn ngữ tự nhiên. LLaVA-1.5: Đây là một mô hình có thể hiểu và tạo thông tin từ cả văn bản và hình ảnh. Nó có thể thực hiện các nhiệm vụ như trả lời câu hỏi về hình ảnh, tạo chú thích cho hình ảnh và chỉnh sửa hình ảnh bằng các lệnh ở dạng ngôn ngữ tự nhiên.

Adept đang nhắm đến một mục tiêu lớn hơn, đó là xây dựng mô hình AI có thể tương tác với mọi thứ trên máy tính. “Adept đang xây dựng một cách hoàn toàn mới để hoàn thành công việc. Nó lấy mục tiêu của bạn dưới dạng ngôn ngữ tự nhiên, và biến chúng thành hành động trên các phần mềm bạn sử dụng hàng ngày”. Họ tin rằng các mô hình AI đọc và viết văn bản vẫn có giá trị, nhưng những mô hình AI tạo sinh sử dụng máy tính như con người còn đem lại giá trị to lớn hơn đối với doanh nghiệp.

Chính vì thế, một cuộc đua quyết liệt giữa các công ty Big Tech trong việc phát triển LMM vẫn tiếp diễn trong năm 2024. Mất một vài năm nữa thì LMM mới đạt được hiệu năng tương đương với mô hình ngôn ngữ lớn LLM hiện nay. Bởi vì dữ liệu văn bản trên internet hiện nay đã bao trùm gần như toàn bộ những kiến thức chung của loài người về hầu khắp các lĩnh vực. Nhưng dữ liệu hình ảnh chủ yếu được lấy từ các nguồn mạng xã hội, chia sẻ những khoảnh khắc trong cuộc sống thường nhật.

Những hình ảnh trong dây chuyền sản xuất công nghiệp đều là dữ liệu bảo mật, không xuất hiện trên mạng internet. LandingAI đang tiên phong hợp tác với khối công nghiệp để khắc phục trở ngại này.
<h2>Mô hình nền tảng lớn: xây dựng hay tận dụng mô hình</h2>
Xây dựng ứng dụng AI chưa bao giờ trở nên dễ dàng và nhanh chóng như bây giờ. Chỉ vài năm trước đây để xây dựng ứng dụng “Phân tích cảm xúc”, (sentiment analysis) sẽ phải mất vài tháng để phát triển mô hình thử nghiệm với các tập dữ liệu khác nhau. Sau khi kiểm nghiệm được độ chính xác, để đưa mô hình AI lên môi trường chính thức (production system) cũng mất thêm vài tháng nữa. Bây giờ mô hình ngôn ngữ lớn LLM dễ dàng giúp chúng ta xây dựng và triển khai ứng dụng phân tích cảm xúc chỉ trong vài giờ bằng việc thiết kế prompts cho LLM đánh giá văn bản là tích cực, trung lập, hay tiêu cực.

Trong lĩnh vực thị giác máy tính, kỹ thuật “visual prompting” được Landing AI tiên phong phát triển tận dụng sức mạnh của mô hình hình ảnh lớn (Large Vision Model – LVM) để giải quyết nhiều tác vụ thị giác máy tính khác nhau, bao gồm phát hiện vật thể, nhận dạng vật thể, phân đoạn vật thể (semantic segmentation),… Visual Prompting sử dụng các dấu hiệu hình ảnh (visual hints) hay nhãn dữ liệu ở dạng tối giản để hướng dẫn mô hình LVM giải quyết một tác vụ mới.

Ví dụ để thực hiện tác vụ phân đoạn hình ảnh lá cây, chúng ta thường phải sử dụng đường bao lá cây làm nhãn huấn luyện mô hình AI. Nhưng khi sử dụng kỹ thuật Visual Prompting chúng ta chỉ cần cung cấp hai đường sọc, một đường bên trong và một đường bên ngoài chiếc lá (xem Hình 1). LVM sẽ dự đoán phạm vi của lá cây một cách lặp đi lặp lại cho đến khi hoàn tất việc phân đoạn hình ảnh lá cây. Việc này hoàn toàn tương đồng với việc chúng ta dạy các cháu bé tô màu lá cây. Bằng việc chỉ vào một vài điểm trên hình vẽ: đây là lá cây, đây là hình nền. Cháu bé hoàn toàn có khả năng tô màu lá cây và hình nền một cách dễ dàng.

Việc xây dựng mô hình nền tảng lớn (Large Foundation Model – LFM) bao gồm cả LLM và LVM yêu cầu cả kiến thức cao cấp về AI cũng như đầu tư lớn về cơ sở hạ tầng tính toán như datalake và máy chủ tính toán.

<img class="aligncenter wp-image-20633 size-full" src="https://static.vars.vn/news/s1/media/2024/02/Picture1-2.jpg" alt="" width="624" height="233" />

Vì vậy cuộc chạy đua xây dựng mô hình LFM sẽ tiếp diễn giữa các gã khổng lồ Big Tech và AI Start-up trong năm 2024 và một vài năm sắp tới. Phần lớn các mô hình LFM sẽ được cung cấp miễn phí cho cộng đồng dưới dạng mã nguồn mở để thúc đẩy sự phát triển của công nghệ AI tạo sinh. Khối doanh nghiệp sẽ được hưởng lợi khi được tiếp cận với nhiều lựa chọn LFM.

Trong khi đó các công ty IT sẽ là lực lượng chính để phát triển ứng dụng của LFM giải quyết các bài toán thực tế của khối doanh nghiệp. Công ty IT sẽ không đủ nguồn lực và tiềm lực tài chính để xây dựng LFM. Phát triển ứng dụng của LFM cũng không phải lĩnh vực cốt lõi (core business) của những gã khổng lồ Big Tech và AI Start-up.
<h3>AI Agent</h3>
Agent là một khái niệm mới trong công nghệ AI tạo sinh, hứa hẹn sẽ làm thay đổi cách thức con người giao tiếp và tương tác với máy tính. AI Agent là những thực thể tự chủ có khả năng cảm nhận môi trường, xử lý thông tin, đưa ra quyết định và hành động để đạt được mục tiêu được đặt ra.

Công nghệ AI tạo sinh đặc biệt là LLM có thể hiểu được mục tiêu con người đặt ra ở dạng ngôn ngữ tự nhiên. Thay vì trả lời câu hỏi của chúng ta, LLM sẽ phác thảo bản kế hoạch từng bước cần phải thực hiện để đạt được mục tiêu. Agent sẽ tự chủ thực thi bản kế hoạch. Kể từ cuối năm 2022, sự bùng nổ về độ phổ biến của ChatGPT và LLM đã thổi bùng lên sự phát triển của công nghệ AI Agent trong năm 2023 và sẽ tiếp diễn trong những năm tiếp theo.

AutoGPT là chương trình mã nguồn mở tận dụng năng lực thông hiểu siêu việt ngôn ngữ tự nhiên của ChatGPT đưa ra những bước cần và đủ để đạt được mục tiêu. Ví dụ nếu đặt ra mục tiêu tổ chức một bữa tiệc cuối năm cho một công ty 500 người, AutoGPT sẽ đưa ra các đầu việc cần phải thực hiện bao gồm: gửi thư mời cho cán bộ nhân viên, khách danh dự, lập lịch trình buổi tiệc, và hậu cần,… dựa trên các nguồn thông tin tin cậy hướng dẫn tổ chức các sự kiện tương tự.

BabyAGI (Artificial General Intelligence) là một ví dụ về hệ thống quản lý công việc được hỗ trợ bởi AI. Hệ thống này sử dụng nhiều agent dựa trên LLMs. Chẳng hạn, có một agent tạo công việc mới dựa trên mục tiêu và kết quả của công việc trước đó, một agent điều phối danh sách công việc, và một agent để hoàn thành công việc/nhiệm vụ con. Trở lại ví dụ tổ chức buổi tiệc cuối năm ở trên, một vị khách mời quan trọng, muốn biểu diễn piano dành tặng nhân việc trong buổi tiệc. Sau khi agent gửi thư mời xác nhận điều này, agent tổ chức sự kiện sẽ thêm nhiệm vụ thuê pinao vào phần hậu cần.

AutoAgents là một bước phát triển đột phá, có khả năng tự động tạo ra và phối hợp nhiều agent chuyên gia để xây dựng một đội ngũ chuyên gia ảo AI, tuỳ theo từng nhiệm vụ khác nhau. Nó gắn kết mối quan hệ giữa các nhiệm vụ và vai trò bằng cách tự động tạo ra nhiều agent cần thiết (chuyên gia) dựa trên nội dung nhiệm vụ và lập kế hoạch giải quyết cho nhiệm vụ hiện tại. Các agent chuyên gia này hợp tác với nhau để hoàn thành nhiệm vụ một cách hiệu quả. Ví dụ trong nghiên cứu khám phá thuốc (drug discovery), AutoAgents sẽ tạo ra một đội Agent chuyên gia bao gồm: Agent nghiên cứu tài liệu khoa học, Agent phân tích dữ liệu, Agent mô phỏng phản ứng thuốc, Agent thiết kế thực nghiệm và Agent giao tiếp. Đội Agent chuyên gia thực thi nhiệm vụ chuyên biệt và giao tiếp với nhau cho đến khi khám phá ra một loại thuốc mới.
<h4>AI tại biên (AI at the Edge)</h4>
Trí tuệ nhân tạo tại biên (AI at the edge) là một lĩnh vực phát triển nhanh chóng và cạnh tranh khốc liệt, liên quan đến việc triển khai mô hình AI trên các thiết bị như máy tính xách tay, điện thoại thông minh, camera, drone, robot và cảm biến.

Cùng với sự phát triển của các ứng dụng AI, xu hướng chuyển xử lý AI xuống thiết bị biên – gần hơn với nguồn dữ liệu – đã nhận được sự quan tâm đáng kể. Cuộc đua giữa các công ty Big Tech và nhà sản xuất chip để đưa công nghệ AI vào ứng dụng hàng ngày và thiết bị di động đang diễn ra sôi động, nhằm cải thiện tốc độ, quyền riêng tư, bảo mật và hiệu quả năng lượng, mà không phụ thuộc vào máy chủ đám mây.

NVIDIA là công ty tiên phong trong lĩnh vực AI tại biên với nền tảng Jetson mạnh mẽ và đa năng, nhờ khoản đầu tư lớn vào công nghệ GPU hiệu suất cao trong giai đoạn đầu phát triển của công nghệ học sâu.

Họ có mối quan hệ chặt chẽ với các doanh nghiệp và nhà cung cấp dịch vụ đám mây như Amazon Web Service, Microsoft Azure và Google Cloud Platform,… Quan trọng hơn, NVIDIA cung cấp hệ sinh thái phần mềm và các công cụ như TensorRT, Deepstream và Triton,… hỗ trợ một cách toàn diện các nhà phát triển xây dựng và tăng tốc mô hình AI một cách hiệu quả trên phần cứng của NVIDIA. Mặc dù chi phí GPU của NVIDIA thường cao hơn đối thủ, nhưng vẫn được ưa chuộng bậc nhất trong cộng đồng nghiên cứu AI.

Một số đối thủ đang cung cấp các lựa chọn thay thế rẻ hơn và thậm chí nhanh hơn so với Jetson. Google Edge TPU là ASIC tùy chỉnh được tối ưu hóa để chạy các mô hình TensorFlow Lite tại biên.

Intel Movidius Myriad X là chip xử lý hình ảnh (VPU) được thiết kế để chạy các ứng dụng AI tại biên. Xilinx Zynq UltraScale+ MPSoC là hệ thống trên chip (SoC) đa năng có trang bị FPGA và bộ xử lý ARM. NXP i.MX 8M Plus là SoC trang bị bộ xử lý ARM và chip xử lý nơ ron(NPU).

Qualcomm Snapdragon 865 là SoC di động có trang bị NPU. Các công ty này không chỉ tập trung vào thiết kế phần cứng mà còn cả hệ sinh thái phần mềm và công cụ để hỗ trợ các nhà phát triển ứng dụng AI tận dụng phần cứng một cách hiệu quả. Nhưng nó vẫn kém toàn diện hơn nhiều so với hệ sinh thái phần mềm và công cụ của NVIDIA. Sự cạnh tranh gay gắt này vẫn sẽ tiếp tục trong những năm tới.

Apple cũng tham gia vào lĩnh vực này, thiết kế chip cho các sản phẩm của riêng mình, bao gồm máy tính xách tay và thiết bị di động. Chip M1 có Neural Engine 16 lõi có thể thực hiện tới 11 nghìn tỷ phép tính mỗi giây. Mặc dù chip M2 có Neural Engine 10 lõi nhưng có thể hoạt động nhanh hơn M1 35%. Điều này khiến nó trở thành lựa chọn lý tưởng để chạy các mô hình AI cho các tác vụ như nhận dạng hình ảnh, xử lý ngôn ngữ tự nhiên và học máy.

Chip A16 Bionic của Apple, được trang bị cho iPhone 14 và iPhone 14 Pro, thậm chí còn mạnh mẽ hơn chip M1. Nó có Neural Engine 16 lõi có thể thực hiện tới 17 nghìn tỷ phép tính mỗi giây. Chip A17 trên iPhone 15 Pro có thể hoạt động nhanh hơn 20% với chỉ GPU 6 lõi.

Qualcomm dự kiến sẽ ra mắt Snapdragon Elite Gen 3 vào đầu năm 2024 dựa trên quy trình 4 nm. Engine AI của nó nhanh gấp đôi so với thế hệ trước. Nó có thể chạy tới 15 nghìn tỷ phép tính mỗi giây (TOPS) trên AI Benchmark. Nó có thể chạy đồng thời nhiều mô hình AI, bao gồm nhận dạng hình ảnh, xử lý ngôn ngữ tự nhiên và mô hình học máy. Cả chip Qualcomm và Apple đều có thể chạy mô hình AI với mức tiêu thụ điện năng thấp.

Do đó, dự kiến chúng ta sẽ thấy sự cạnh tranh ngày càng gay gắt hơn trong lĩnh vực thiết bị AI tại biên trong năm 2024 và những năm tiếp theo.
<p style="text-align: right;"><em>Theo Tạp chí Tự động hóa ngày nay</em></p>
<p style="text-align: right;"><em>(Link: https://vnautomate.net/ai-se-dinh-hinh-tuong-lai-nhu-the-nao-goc-nhin-chien-luoc-nam-2024.html)</em></p>

trí tuệ nhân tạo

ChatGPT

AI tạo sinh

Mô hình ngôn ngữ lớn

AI sẽ định hình tương lai như thế nào? góc nhìn chiến lược năm 2024

<strong>AI tạo sinh nói chung, mô hình ngôn ngữ lớn (Large Language Model/LLM) nói riêng đang trở thành “nguồn lực mới” mà bất cứ doanh nghiệp hay quốc gia nào cũng mong muốn sở hữu, nhằm đột phá hiệu quả quản trị, kinh doanh, vận hành và giành phần thắng trong cuộc đua số hóa.</strong>

<div class="caption-img" id="attachment_20052" align="aligncenter" width="1053"><img class="wp-image-20052 " src="https://static.vars.vn/news/s1/media/2024/01/Anh-1-5.jpg" alt="" width="1053" height="593" /> ViGPT phiên bản doanh nghiệp được tích hợp trong nền tảng VinBase 2.0, hỗ trợ linh hoạt nhiều nghiệp vụ của doanh nghiệp.</div>

Theo báo cáo của McKinsey (2023), tài chính - ngân hàng, bảo hiểm và logistics nằm trong những nhóm ngành được hưởng lợi nhiều nhất khi ứng dụng AI tạo sinh vào hoạt động. Công nghệ này giúp doanh nghiệp tự động hóa các tác vụ đòi hỏi phán đoán, suy luận và hỗ trợ ra quyết định lên tới 70%, tiết kiệm chi phí và thời gian, đồng thời nâng cao hiệu quả kinh doanh lên 10%.
<h1>AI tạo sinh: Định nghĩa lại các giải pháp số hóa truyền thống</h1>
Trước đây, một số doanh nghiệp từng ngần ngại khi tích hợp các giải pháp tương tác tự động như chatbot, callbot, trợ lý ảo vào hệ thống chăm sóc khách hàng. Với mô hình <a href="https://varsland.vn/tin-tuc/nam-ban-le-cua-tri-tue-nhan-tao/">AI</a> truyền thống, tương tác dựa trên kịch bản được cài đặt sẵn chưa thực sự tự nhiên, linh hoạt, đôi khi mang lại cảm giác máy móc và chưa thể đáp ứng hoàn toàn nhu cầu tư vấn hay truy xuất thông tin của khách hàng.

Ví dụ, trong ngành ngân hàng, một chatbot truyền thống có thể trả lời câu hỏi: "Chính sách mở thẻ credit", nhưng sẽ gặp khó khăn khi khách hàng yêu cầu tư vấn: "Tôi thu nhập một tháng 30 triệu và thỉnh thoảng phát sinh nhu cầu mua trả góp thì nên mở thẻ gì?".

Ngược lại, chatbot tích hợp mô hình ngôn ngữ lớn và AI tạo sinh hoàn toàn có thể xử lý tốt các tình huống này, cùng khả năng trích xuất, phân tích thông tin để đưa ra tư vấn chuyên sâu cho khách hàng.

Hay trong lĩnh vực bảo hiểm, AI tạo sinh có thể được tích hợp trong hệ thống chăm sóc khách hàng để tư vấn các gói bảo hiểm hoặc giải quyết thắc mắc/khiếu nại có liên quan. Trong trường hợp khách hàng muốn tạm ứng từ chính gói bảo hiểm mà mình tham gia, AI tạo sinh có thể tự động dựa vào lịch sử của khách và chính sách ưu đãi để đưa ra tính toán số tiền mà khách hàng có thể nhận được.

Thậm chí, đối với các doanh nghiệp vận tải, tổng đài ứng dụng AI tạo sinh là “trợ thủ mới” giúp tự động tiếp nhận các cuộc gọi đặt xe, chuyển tới hệ thống tập trung và đặt lệnh điều xe tới đúng địa chỉ mong muốn trong thời gian ngắn.

<div class="caption-img" id="attachment_20055" align="aligncenter" width="1084"><img class="wp-image-20055 " src="https://static.vars.vn/news/s1/media/2024/01/Anh-2-2.jpg" alt="" width="1084" height="813" /> Trong tương lai, VinBigdata sẽ ra mắt thêm các phiên bản 3 tỷ và 11 tỷ tham số để phục vụ các bài toán phức tạp hơn của doanh nghiệp.</div>

Đây cũng chính là cách tiếp cận tiên tiến mà đội ngũ VinBigdata đã ứng dụng để phát triển ViGPT - “ChatGPT phiên bản Việt" vừa được ra mắt vào cuối tháng 12/2023. Sản phẩm được giới thiệu với hai phiên bản dành cho cộng đồng và dành cho doanh nghiệp. ViGPT phiên bản doanh nghiệp được tích hợp trong nền tảng VinBase 2.0, với các giải pháp ViChat (trợ lý ảo kênh văn bản), ViVoice (trợ lý ảo kênh tổng đài) và trợ lý ảo ViVi thế hệ mới. Nền tảng được xây dựng dựa trên kho dữ liệu thuần Việt và hệ tri thức đa ngành nghề, có thể hỗ trợ linh hoạt nhiều nghiệp vụ khác nhau của doanh nghiệp.
<h2>Mô hình “may đo” cho thị trường Việt Nam</h2>
So với các giải pháp AI tạo sinh do nước ngoài phát triển, ưu điểm nổi trội của ViGPT phiên bản doanh nghiệp là tính tối ưu về khả năng triển khai cho doanh nghiệp Việt Nam. Từ cơ sở dữ liệu, kích thước mô hình, nghiệp vụ hỗ trợ đến tính bảo mật dữ liệu, tất cả đều được đội ngũ VinBigdata “may đo” sao cho phù hợp với bài toán của từng doanh nghiệp Việt, ở đa dạng quy mô và ngành nghề.

TS. Nguyễn Kim Anh, Giám đốc sản phẩm VinBigdata (Tập đoàn Vingroup), cho biết: “Các mô hình ngôn ngữ lớn trên thế giới có những hạn chế nhất định khi ứng dụng với tiếng Việt, bao gồm: dữ liệu tiếng Việt chưa được cập nhật đầy đủ, thông tin cung cấp có thể không chính xác, khó tích hợp nghiệp vụ, không triển khai on-premise (hỗ trợ lưu trữ dữ liệu tại chỗ, vì hạ tầng cực lớn nên chủ yếu dùng Cloud), và có thể không đáp ứng bảo mật thông tin và quyền riêng tư”.

ViGPT được phát triển dựa trên mô hình ngôn ngữ lớn (LLM) với số lượng tham số 1.6 tỷ nhưng vẫn mang lại hiệu quả vượt trội hơn so với các mô hình nhiều tham số khác trên thị trường. Với thiết kế tối ưu, mô hình mang lại sự chủ động về tài nguyên cho doanh nghiệp sử dụng.

“Trước đó, ViGPT cũng đã thử nghiệm các mô hình 7 tỷ tham số và lớn hơn. Trong tương lai, VinBigdata sẽ cho ra mắt thêm các phiên bản với số lượng tham số nhiều hơn (3 tỷ và 11 tỷ) để phục vụ các bài toán phức tạp cho doanh nghiệp”, TS. Nguyễn Kim Anh cho biết thêm.

Hiện tại, VinBigdata cũng đang ứng dụng ViGPT phiên bản doanh nghiệp trong các sản phẩm ra mắt gần đây như trợ lý ảo hỗ trợ dịch vụ công, thử nghiệm cùng Trung tâm Thông tin (Bộ Thông tin và truyền thông) để cung cấp những thông tin liên quan đến văn bản pháp luật, chính sách, quy định về các thủ tục hành chính trong lĩnh vực Thông tin và Truyền thông. Trong thời gian tới, Trợ lý ảo ViVi trên các dòng xe điện của VinFast cũng sẽ được nâng cấp với AI tạo sinh, mang đến những trải nghiệm công nghệ độc đáo cho người lái.

Theo kế hoạch, trong thời gian tới, VinBigdata sẽ cung cấp các phiên bản ViGPT miễn phí cho các tổ chức phi lợi nhuận như trường học, quỹ xã hội, tổ chức phi chính phủ... giúp người dùng tra cứu những thông tin về lịch sử, văn hoá đặc trưng của người Việt Nam.

Ứng dụng và sử dụng AI tạo sinh như một "vũ khí" thay vì "công cụ" có thể giúp doanh nghiệp Việt đi tắt đón đầu, nâng cao vị thế trên thế giới. Hơn nữa, việc phát triển và làm chủ công nghệ được phát triển trong nước như ViGPT có thể đáp ứng được nhu cầu trải nghiệm ngày càng cao của người dùng tại Việt Nam.

mô hình ngôn ngữ

Doanh nghiệp Việt hưởng lợi gì trước làn sóng AI tạo sinh?

<strong>Fortinet mới đây khuyến cáo các tổ chức nên chú trọng tới mô hình phản ứng linh hoạt trên không gian mạng và thu hẹp khoảng cách về kỹ năng nhằm tăng cường khả năng phòng thủ trước những thủ đoạn ngày càng tinh vi của tội phạm mạng.</strong>

Khuyến cáo này của Fortinet dựa trên báo cáo từ FortiGuard Labs về nguy cơ leo thang của các mối đe dọa mạng nâng cao do sự phổ cập của Dịch vụ tội phạm mạng (CaaS) và tác động của trí tuệ nhân tạo tạo sinh (Generative AI).

<div class="caption-img" id="attachment_19082" align="aligncenter" width="1059"><img class="wp-image-19082 " src="https://static.vars.vn/news/s1/media/2023/12/hinh-minh-hoa-2.jpg" alt="" width="1059" height="596" /> AI tạo sinh là mối nguy cơ lớn trong cuộc chiến tranh giành mục tiêu trên không gian mạng.</div>

&nbsp;

Theo FortiGuard Labs, trong thời kỳ gia tăng của các hoạt động dịch vụ tội phạm mạng cùng với sự xuất hiện của <a href="https://varsland.vn/tin-tuc/ai-tao-sinh-viet-nam-nen-dung-tren-vai-nguoi-khong-lo-hay-tu-chu/">AI</a> tạo sinh, các tác nhân gây đe dọa hiện sở hữu nhiều công cụ khiến cho việc thực hiện các cuộc tấn công mạng trở nên dễ dàng. Tận dụng khả năng mở rộng kho vũ khí, tội phạm mạng sẵn sàng nâng cao mức độ tinh vi trong các hoạt động lừa đảo. Dự kiến trong tương lai, bối cảnh mối đe dọa sẽ chứng kiến sự gia tăng của các cuộc tấn công lén lút và có chủ đích, được thực hiện một cách tỉ mỉ để vượt qua các biện pháp kiểm soát an ninh, bảo mật mạnh mẽ. Tiến trình này, cùng với sự linh hoạt ngày càng tăng trong việc thực hiện các chu kỳ tấn công, nhấn mạnh nhu cầu cấp thiết đối với các tổ chức trên toàn thế giới trong việc củng cố khả năng phục hồi trước các kỹ chiến thuật mà tội phạm mạng đang phát triển.
<h1>Những ‘mánh khóe’ cũ đã được ưa chuộng vẫn đang phát triển</h1>
FortiGuard Labs đã quan sát nhiều chiến thuật tấn công được giới tội phạm mạng ưa chuộng trong nhiều năm qua và thấy rằng những chiến thuật “kinh điển” này sẽ không mất đi. Thay vào đó, các chiến thuật tấn công đang phát triển và ngày càng trở nên tiên tiến khi những kẻ tấn công có khả năng truy cập vào các tài nguyên mới. Ngoài sự phát triển của các hoạt động tấn công mạng có chủ đích APT, dự đoán các nhóm tội phạm mạng nói chung sẽ đa dạng hóa mục tiêu và kịch bản tấn công, tập trung vào các cuộc tấn công tinh vi, gây nhiễu loạn, đồng thời nhắm đến các cuộc tấn công từ chối dịch vụ DoS và tống tiền.

Các “cuộc chiến giành lãnh thổ” trên không gian mạng vẫn tiếp tục diễn ra, với nhiều nhóm tội phạm mạng tấn công nhắm vào cùng một mục tiêu và triển khai các biến thể ransomware, thường trong vòng 24 giờ hoặc ít hơn. Việc vũ khí hóa AI tạo sinh sẽ giống như đổ thêm dầu vào ngọn lửa vốn đang bùng cháy dữ dội, mang đến cho những kẻ tấn công một phương tiện hiệu quả trong việc cải thiện các giai đoạn tấn công. Chúng ta đang chứng kiến tội phạm mạng ngày càng biết cách lợi dụng công nghệ AI để hỗ trợ các hoạt động gây hại theo những phương cách mới, từ việc ngăn chặn phát hiện tấn công phi kỹ thuật đến bắt chước hành vi của con người.
<h2>Các xu hướng mới cần lưu ý trong năm 2024 và xa hơn</h2>
Cách thức phát triển các cuộc tấn công: Trong vài năm qua, các cuộc tấn công bằng mã độc tống tiền ransomware trên toàn cầu đã tăng vọt, khiến mọi tổ chức, bất kể quy mô hay ngành nghề, đều trở thành mục tiêu. Tuy nhiên, bên cạnh việc thực hiện các cuộc tấn công ransomware để đòi những khoản tiền chuộc lớn, các nhóm tội phạm cũng đang nhanh chóng “vắt kiệt” những mục tiêu nhỏ hơn, dễ tấn công hơn. Trong tương lai, dự đoán những kẻ tấn công sẽ áp dụng phương pháp tấn công triệt để – chuyển trọng tâm sang các ngành quan trọng như y tế, tài chính, giao thông vận tải và tiện ích công. Những kẻ tấn công cũng sẽ phát triển các kịch bản gài bẫy, làm cho các hoạt động tấn công trở nên cá nhân, hung hãn và mang tính hủy diệt hơn.
<ol>
 	<li>Thời đại mới cho các lỗ hổng zero day: Khi các tổ chức mở rộng số lượng các nền tảng, ứng dụng và công nghệ phục vụ cho hoạt động kinh doanh hàng ngày, tội phạm mạng tận dụng cơ hội này để phát hiện và khai thác các lỗ hổng phần mềm. Các lỗ hổng zero day và các lỗ hổng bảo mật thường gặp CVE mới xuất hiện vào năm 2023 được quan sát thấy ở mức độ kỷ lục, và con số đó vẫn đang tăng lên. Dựa vào mức độ giá trị lớn của các lỗ hổng zero day đối với những kẻ tấn công, dự kiến sẽ thấy nhiều kẻ môi giới zero day trong cộng đồng Dịch vụ tội phạm mạng CaaS. Các lỗ hổng N-day cũng sẽ tiếp tục gây ra rủi ro đáng kể cho các tổ chức.</li>
 	<li>Cảnh giác ngay từ nội bộ: Nhiều tổ chức đang tăng cường kiểm soát bảo mật và áp dụng các công nghệ và quy trình mới để tăng cường khả năng phòng thủ. Các biện pháp kiểm soát nâng cao này khiến những kẻ tấn công xâm nhập vào mạng từ bên ngoài trở nên khó khăn hơn, vì vậy tội phạm mạng phải tìm ra những phương thức mới để tiếp cận mục tiêu. Với sự thay đổi này, dự đoán rằng những kẻ tấn công sẽ chuyển sang shift left – còn được gọi là Kiểm thử sớm (chuyển dịch các hoạt động kiểm thử sang bên trái – giai đoạn sớm hơn – trong quá trình phát triển phần mềm) với các chiến thuật, trinh sát và vũ khí hóa, bằng cách bắt đầu tuyển dụng ‘tay trong’ từ các tổ chức mục tiêu cho mục đích truy cập ban đầu.</li>
 	<li>Nhận biết các cuộc tấn công có thể gây ra “chấn động”: Trong tương lai, chúng tôi dự đoán sẽ thấy những kẻ tấn công lợi dụng nhiều hơn các diễn biến địa chính trị và cơ hội do các sự kiện lớn mang đến như các cuộc bầu cử tại Hoa Kỳ năm 2024 và Thế vận hội Paris 2024. Trong khi luôn nhắm tới các sự kiện có thể gây ra tác động rất lớn, nguy hiểm hơn là tội phạm mạng hiện có sẵn các công cụ mới, đặc biệt là AI tạo sinh.</li>
 	<li>Thu hẹp “sân chơi” TTP: Những kẻ tấn công chắc chắn sẽ tiếp tục mở rộng bộ sưu tập các chiến thuật, kỹ thuật và thủ tục (TTP) mà chúng sử dụng để tấn công mục tiêu. Tuy nhiên, những người phòng thủ có thể nắm được lợi thế khi tìm ra cách phá vỡ các hoạt động đó. Trong khi hầu hết công việc hàng ngày của những người bảo vệ an ninh mạng liên quan đến việc ngăn chặn các dấu hiệu xâm phạm, việc xem xét kỹ lưỡng những công cụ các kẻ tấn công bằng TTP thường xuyên sử dụng cũng mang lại hiệu quả không ngờ, qua đó giúp thu hẹp “sân chơi” của tội phạm mạng và tìm ra những “điểm nghẽn” tiềm ẩn.</li>
 	<li>Các cuộc tấn công hạ tầng 5G: Với khả năng truy cập vào các công nghệ kết nối ngày càng tăng, tội phạm mạng chắc chắn sẽ tìm thấy những cơ hội mới để tấn công. Với việc mỗi ngày có thêm nhiều thiết bị trực tuyến, không khó để dự đoán rằng tội phạm mạng sẽ tận dụng lợi thế này để tiến hành các cuộc tấn công mạng trong tương lai. Một cuộc tấn công thành công vào hạ tầng 5G có thể dễ dàng làm đảo lộn các ngành công nghiệp quan trọng như dầu khí, giao thông vận tải, an ninh công cộng, tài chính và y tế.</li>
</ol>
<img class=" wp-image-19085 aligncenter" src="https://static.vars.vn/news/s1/media/2023/12/hinh-minh-hoa-294x300.jpg" alt="" width="1123" height="1146" />

<strong>Chúng ta có thể làm gì?</strong>

Ông Nguyễn Gia Đức – Giám đốc Quốc gia Fortinet Việt Nam cho rằng: “Với việc các tác nhân đe dọa hiện được trang bị các công cụ tiên tiến, sử dụng các kỹ thuật tinh vi hơn và biết cách đa dạng hóa các mục tiêu, cộng đồng chuyên gia an ninh mạng cần phải thống nhất về cách thức phản ứng”.

Cộng đồng an ninh bảo mật có thể thực hiện một số biện pháp để dự báo tốt hơn các động thái tiếp theo của tội phạm mạng và làm gián đoạn hoạt động của chúng, ví dụ như sự hợp tác giữa khu vực công và tư để chia sẻ thông tin về mối đe dọa, áp dụng các biện pháp tiêu chuẩn cho việc báo cáo sự cố, và nhiều cách làm khác,…

Các tổ chức đóng vai trò quan trọng trong việc ngăn chặn tội phạm mạng. Họ có thể bắt đầu bằng việc khởi tạo và phát triển mô hình ứng phó linh hoạt để phục hồi trên không gian mạng, biến an ninh mạng trở thành công việc của tất cả thành viên trong tổ chức bằng cách triển khai các sáng kiến như tổ chức các chương trình giáo dục an ninh mạng trên toàn doanh nghiệp và tổ chức các trò chơi mô phỏng thực hành cho các nhà quản lý.

Năm 2024 với các dự báo nguy cơ an ninh mạng từ AI tạo sinh và các dịch vụ CaaS

<strong>Cho đến nay, câu hỏi Việt Nam nên "đứng trên vai người khổng lồ" hay tự đầu tư nền tảng AI tạo sinh, ngôn ngữ lớn vẫn là một trăn trở lớn.</strong>

<div class="caption-img" id="attachment_16978" align="aligncenter" width="1115"><img class="wp-image-16978 " src="https://static.vars.vn/news/s1/media/2023/09/vinbigdata.jpg" alt="" width="1115" height="628" /> Ông Đào Đức Minh, Tổng giám đốc Công ty cổ phần VinBigdata, phát biểu tại Ngày hội Trí tuệ nhân tạo Việt Nam (Ảnh: Thanh Tùng |VnExpress)</div>

&nbsp;

Mặc dù Việt Nam còn nhiều rào cản trong việc làm chủ công nghệ AI, tuy nhiên một số chuyên gia đầu ngành cho rằng nước ta nên xây dựng một <a href="https://varsland.vn/tin-tuc/tri-tue-nhan-tao-thay-doi-cuoc-choi-ca-lon-nuot-ca-be/">hệ sinh thái AI</a> thuần Việt, từ đó tăng tính chuyên biệt và hiệu quả của AI trong công việc và đời sống.
<h1>Cơ hội rút ngắn khoảng cách với thế giới</h1>
Trong lĩnh vực trí tuệ nhân tạo, AI tạo sinh là một trong những nhánh hấp dẫn nhất hiện nay. Là thuật toán có khả năng tạo ra những nội dung mới như: văn bản, hình ảnh, âm thanh, video và thậm chí là những trò chơi điện tử, phim, AI tạo sinh có thể cho ra những sản phẩm tương tự cách con người tạo ra.

Trong vòng 10 năm qua, nhiều cường quốc đã không ngừng thúc đẩy sự phát triển của công nghệ này. Đặc biệt, sự xuất hiện của ChatGPT vào tháng 11 năm ngoái lại càng thúc đẩy làn sóng này diễn ra mạnh mẽ.

Vì đã phát triển công nghệ này từ lâu, trong thời gian vừa qua, các tập đoàn công nghệ lớn của Mỹ đã lần lượt cho ra đời những sản phẩm AI tạo sinh khác nhau: OpenAI với ChatGPT, Google với Bard...

Dù nghiên cứu muộn hơn, các tập đoàn Trung Quốc cũng cho ra đời những sản phẩm AI tạo sinh với nhiều tính năng nổi bật như sản phẩm Earn Bat của Baidu, Hunyuan của Tencent... Gần đây, các tập đoàn lớn của hật Bản và Hàn Quốc cũng đầu tư rất nhiều vào AI tạo sinh với những sản phẩm AI tổng quát như HyperCLOVAX của Naver...

Theo số liệu của McKinsey, ước tính AI tạo sinh có thể đóng góp 2.600 - 4.400 tỷ USD cho kinh tế toàn cầu hàng năm. Tại Việt Nam, việc làm chủ AI tạo sinh có khả năng tạo ra nhiều lợi ích cho chính phủ, kinh tế, xã hội.

Theo TS. Đào Đức Minh, Tổng giám đốc Công ty Cổ phần VinBigdata, việc tự chủ phát triển AI tạo sinh có thể giúp Chính phủ chủ động kiểm soát nội dung, tránh thông tin sai lệch, đảm bảo an toàn cho dữ liệu quốc gia, đưa công nghệ Việt ra thế giới.

"Mặc dù Việt Nam đã bỏ lỡ những cuộc cách mạng khoa học công nghệ trước đây, tuy nhiên ngày nay, trong lĩnh vực AI, Việt Nam hoàn toàn có cơ hội rút ngắn khoảng cách so với thế giới. Các chuyên gia AI hàng đầu Việt Nam hoàn toàn tương xứng với các chuyên gia hàng đầu thế giới", ông Minh nêu quan điểm.

Trên góc độ xã hội, tự chủ AI tạo sinh giúp Việt Nam cung cấp những thông tin đặc trưng và đặc thù của người Việt, giúp bảo tồn, làm phong phú văn hóa và đời sống xã hội của Việt Nam, đảm bảo tính chính xác và uy tín.

Trong lĩnh vực kinh tế, tự chủ AI tạo sinh giúp các doanh nghiệp tự chủ công nghệ lõi, thúc đẩy hoạt động kinh doanh và bảo vệ dữ liệu quan trọng.

Theo ông Minh, công nghệ này có thể ứng dụng rộng rãi đa ngành theo cả chiều rộng và chiều sâu. Trước khi có AI tạo sinh, các doanh nghiệp có thể ứng dụng công nghệ trí tuệ nhân tạo vào các chatbot để trả lời theo các nghiệp vụ đã định trước, hoặc thực hiện các mệnh lệnh là chính.

Trong khi đó, các trợ lý ảo thế hệ mới với AI tạo sinh có thể tương tác tự nhiên và tư vấn cá nhân hóa cho khách hàng, đến việc hỗ trợ tư vấn bán hàng và đề xuất mô hình kinh doanh và sản phẩm mới.

Hơn hết, không giống như những loại AI truyền thống chỉ áp dụng được trong các tập đoàn, công ty lớn, AI tạo sinh có khả năng áp dụng trong doanh nghiệp ở tất cả các quy mô, bởi khả năng chuyển đổi dữ liệu thông tin từ thô sang có ích một cách nhanh chóng và dễ dàng hơn.
<h2>'Sản phẩm dành cho người Việt nên do người Việt phát triển'</h2>
Đến thời điểm hiện tại, câu hỏi Việt Nam có nên "đứng trên vai người khổng lồ" hay tự phát triển nền tảng AI tạo sinh và ngôn ngữ lớn vẫn là một trăn trở lớn của các doanh nghiệp.

Mặc dù có nhiều tiềm năng và lợi ích, vẫn còn nhiều rào cản khiến AI tạo sinh chưa thể bùng nổ tại Việt Nam. Những rào cản này bao gồm vấn đề về tài chính, bảo mật, tính chính xác, sự phù hợp với văn hóa địa phương.

Trong đó, việc phát triển AI tạo sinh tại Việt Nam dự kiến sẽ đòi hỏi nhiều kinh phí hơn so với Mỹ và các quốc gia phát triển khác. Tuy nhiên, đại diện của VinBigdata vẫn đánh giá cao việc phát triển AI tạo sinh dành riêng cho người Việt, nhằm tạo ra một công cụ "thuần Việt" có khả năng hiểu rõ văn hóa Việt Nam.

Mới đây, VinBigdata đã thành công trong việc phát triển AI tạo sinh dựa trên mô hình ngôn ngữ lớn, và dự kiến sẽ tích hợp nó vào các sản phẩm như Vivi, VinBase và ViGPT.

Trong Ngày hội Trí tuệ nhân tạo Việt Nam 2024 (AI4VN), điều này được thực chứng thông qua việc ông đặt ra cùng một câu hỏi cho cả hai nền tảng. Trong khi ChatGPT đưa ra một câu trả lời chung chung và khó hiểu, AI tạo sinh của VinBigdata thể hiện khả năng phân tích sâu và diễn giải bằng ngôn ngữ gần gũi, dễ hiểu hơn.

Đại diện VinBigdata nhấn mạnh: "Có những sản phẩm dành cho người Việt chỉ nên được phát triển bởi người Việt. Chúng tôi hy vọng có sự đồng lòng từ các bộ ngành, doanh nghiệp và cộng đồng để mang đến sản phẩm đột phá và hữu ích cho người dùng."

<div class="caption-img" id="attachment_16981" align="aligncenter" width="1220"><img class="wp-image-16981 " src="https://static.vars.vn/news/s1/media/2023/09/vnpt.jpg" alt="" width="1220" height="687" /> Tiến sĩ Lê Thái Hưng, Giám đốc chiến lược VNPT AI, nêu quan điểm người Việt nên tự làm chủ AI tạo sinh (Ảnh: Quỳnh Trần I VnExpress)</div>

&nbsp;

Tương tự, đối với một số vấn đề liên quan đến các sản phẩm AI trên thế giới như tính chính xác của đầu ra, bảo mật dữ liệu, cập nhật dữ liệu, và tính phụ thuộc khi sử dụng, Tiến sĩ Lê Thái Hưng, Giám đốc chiến lược VNPT AI, cũng nêu quan điểm rằng cần phát triển trợ lý AI chuyên biệt dành riêng cho người Việt.

Ông cho rằng trợ lý AI của người Việt nên được xây dựng sâu và chuyên sâu cho từng ngành, từng lĩnh vực hoặc từng nhiệm vụ cụ thể. Ông cũng nêu rõ rằng VNPT có niềm tin trong việc xây dựng trợ lý AI chuyên biệt nhờ vào bốn trụ cột quan trọng là con người, dữ liệu, hạ tầng và chiến lược.

Hệ sinh thái AI của VNPT đã tạo ra các trợ lý AI chuyên biệt như trợ lý AI định danh điện tử, trợ lý AI y tế cho bác sĩ, trợ lý AI giám sát giao thông, trợ lý AI lắng nghe mạng xã hội, trợ lý AI chăm sóc khách hàng và người dân, và được khách hàng đón nhận vì đáp ứng đúng nhu cầu sử dụng.

công nghệ

AI thuần Việt

AI tạo sinh: Việt Nam nên 'đứng trên vai người khổng lồ' hay tự chủ?

Quận Tân Bình

Hiển thị

Phạm Thị Thuý Nghi

Mua bán

Tin Thường

Thành phố Hồ Chí Minh

Đang hiển thị

<mark style="background-color: transparent; font-weight: 400; ">Bán Nhà trong hẻm 70m²</mark>

Bán Nhà trong hẻm 70m²

Chưa giao dịch

Nhà trong hẻm

Phường 15

Đông Bắc

Quận Phú Nhuận

Phong

<mark style="background-color: transparent; font-weight: 400; ">Chủ cần bán Căn hộ chung cư 52m²</mark>

Chủ cần bán Căn hộ chung cư 52m²

Căn hộ chung cư

Phường 09

Đông Nam

Thành phố Biên Hòa

Đỗ Thị Mỹ Hiếu

Tỉnh Đồng Nai

<mark style="background-color: transparent; font-weight: 400; ">500tr bán nhanh 🏣 lô góc 2 mặt tiền 165m2 cuối đường huỳnh văn nghệ bửu long</mark>

500tr bán nhanh 🏣 lô góc 2 mặt tiền 165m2 cuối đường huỳnh văn nghệ bửu long

Đất nền riêng lẻ

Phường Bửu Long

Quận Hải Châu

Hoàng Gia Lộc

Thành phố Đà Nẵng

<mark style="background-color: transparent; font-weight: 400; ">Bán Nhà trong hẻm 101m²</mark>

Bán Nhà trong hẻm 101m²

Phường Thuận Phước

Quận Gò Vấp

Nguyễn Văn Thuận

<mark style="background-color: transparent; font-weight: 400; ">Bán Nhà Hẻm 🔥 496 Dương Quảng Hàm - Nguyễn Văn Lượng, 12x13m, 2 Tầng cũ, 18,9 Tỷ.</mark>

Bán Nhà Hẻm 🔥 496 Dương Quảng Hàm - Nguyễn Văn Lượng, 12x13m, 2 Tầng cũ, 18,9 Tỷ.

Phường 16

VARs News - Trang tin tức Bất động sản - Ai tao sinh

Chuyên trang Tin Tức