DANH MỤC DỊCH VỤ

Những điều bạn nên biết về LLM (với tư cách là người dùng và nhà tiếp thị) — Whiteboard Friday

Ngày 30/11/2025 - 11:11

Cho dù bạn là người dùng hay nhà tiếp thị, Robin sẽ giải thích cho bạn những điều bạn nhất định phải biết về Mô hình ngôn ngữ lớn.

Mục lục

Xin chào, tôi là Robin. Chào mừng bạn trở lại Whiteboard Friday. Khoảng một năm trước, các công cụ như ChatGPT, công cụ dựa trên mô hình ngôn ngữ lớn, đã ra mắt và khiến tất cả chúng ta phải suy nghĩ về cách sử dụng chúng tốt hơn với tư cách cá nhân và nhà tiếp thị. Trong video này, tôi sẽ không biến bạn thành một chuyên gia về máy học, và tôi cũng không nghĩ mình sẽ bác bỏ những gì mọi người đã nói cho đến nay.

Nhưng tôi sẽ phân tích một số công nghệ và một số hạn chế đi kèm, tôi nghĩ điều này sẽ cung cấp cho chúng ta nhiều manh mối về cách chúng ta có thể sử dụng chúng tốt nhất với tư cách là cá nhân và nhà tiếp thị, và tôi nghĩ bạn sẽ ngạc nhiên khi biết rằng nhiều điều trong số đó có điểm tương đồng với những thứ mà chúng ta đã quen.

ChatGPT hoạt động như thế nào

Vậy, hãy bắt đầu với các bước mà ChatGPT phải trải qua, ví dụ, để trả lời một câu hỏi. Một lần nữa, giống như các công cụ tìm kiếm, trước tiên chúng phải thu thập dữ liệu.

Sau đó, họ cần lưu dữ liệu ở định dạng mà họ có thể truy cập, và cuối cùng họ cần cung cấp cho bạn câu trả lời, tương tự như xếp hạng. Nếu chúng ta bắt đầu bằng việc thu thập dữ liệu, thì đây là phần gần gũi nhất với các công cụ tìm kiếm mà chúng ta biết và yêu thích. Về cơ bản, họ đang truy cập các trang web, thu thập dữ liệu trên internet, và nếu họ chưa truy cập một trang web nào hoặc tìm được nguồn thông tin khác, họ sẽ không biết câu trả lời. Họ ở thế bất lợi ở đây vì các công cụ tìm kiếm đã làm điều này, đã ghi lại thông tin này trong nhiều thập kỷ, trong khi họ chỉ mới bắt đầu.

Vì vậy, họ còn rất nhiều việc phải làm. Có rất nhiều ngóc ngách khác nhau trên Internet mà họ chưa thực sự có cơ hội tiếp cận. Một trong những điều họ có thể làm, một thông tin mà họ có thể thu thập mà các công cụ tìm kiếm khác không thể truy cập, là dữ liệu trò chuyện. Vì vậy, khi bạn sử dụng các nền tảng, họ sẽ thu thập dữ liệu về những gì bạn đang nhập và cách bạn tương tác với nó, và dữ liệu đó sẽ được đưa vào mô hình đào tạo của họ.

Vậy nên, một điều bạn cần lưu ý khi làm việc với các nền tảng như ChatGPT là nếu bạn nhập dữ liệu riêng tư vào đó, thì sau khi bạn thực hiện xong, dữ liệu đó chưa chắc đã được coi là riêng tư. Vì vậy, bạn có thể muốn xem lại cài đặt hoặc cân nhắc sử dụng API vì chúng thường cam kết không đào tạo dựa trên dữ liệu API. Nếu chúng ta chuyển sang giai đoạn thứ hai, lưu thông tin đó, thì đây chính là thứ chúng ta gọi là lập chỉ mục trong tìm kiếm, và đây là lúc mọi thứ có đôi chút khác biệt, nhưng vẫn có khá nhiều điểm tương đồng.

Vậy nên, vào thời kỳ đầu của công cụ tìm kiếm, thực ra là chỉ mục, dữ liệu mà chúng lưu trữ, không được cập nhật trực tiếp như chúng ta vẫn thường làm. Ngay khi một thông tin nào đó xuất hiện trên Internet, chúng ta không thể chắc chắn rằng nó sẽ xuất hiện ở đâu đó trên công cụ tìm kiếm. Họ thường cập nhật vài tháng một lần vì chi phí rất cao. Việc cập nhật chỉ mục rất tốn kém về mặt thời gian và tiền bạc. Hiện tại, chúng ta cũng đang ở trong tình huống tương tự với các mô hình ngôn ngữ lớn.

Bạn có thể nhận thấy thỉnh thoảng họ lại nói, "Được rồi, chúng tôi đã cập nhật mọi thứ." Thông tin mà họ có được hiện vẫn còn hiệu lực đến tháng 4 hoặc khoảng thời gian tương tự. Đó là bởi vì khi họ muốn đưa thêm thông tin vào các mô hình, họ thực sự phải đào tạo lại toàn bộ. Vì vậy, một lần nữa, việc này rất tốn kém. Cả hai hạn chế đó đều ảnh hưởng đến câu trả lời cuối cùng mà bạn nhận được.

Tôi chắc rằng bạn đã thấy điều này. Có thể bạn đang sử dụng ChatGPT và nó không hiển thị thông tin bạn đang yêu cầu, hoặc thông tin mà nó có đã lỗi thời.

Cách mà bạn có thể đã làm được là sao chép và dán một loạt ngữ cảnh vào cửa sổ trò chuyện, một tính năng khá đặc thù của những công cụ này mà chúng ta có thể tận dụng tối đa. Hoặc có thể bạn đã yêu cầu Bing rời đi và tìm kiếm thứ gì đó. Đây là một tính năng mà chúng ta đang dần quen với các công cụ này, nhưng nó lại khá đặc thù đối với các mô hình ngôn ngữ lớn, đó là chúng ta có thể lấp đầy những khoảng trống trong bộ nhớ dài hạn bằng cách đưa thông tin vào bộ nhớ ngắn hạn và yêu cầu nó xử lý.

Điều thú vị là ngay cả khi chúng ta không làm những việc này, thì đó vẫn là những gì đang diễn ra ở chế độ nền. Vì vậy, khi bạn trò chuyện với ChatGPT, mô hình thực sự không nhớ gì cả, ngay cả nội dung cuối cùng nó đã gửi cho bạn. Vấn đề là mỗi khi bạn gửi tin nhắn, sẽ có một tập lệnh chạy sao chép toàn bộ cuộc trò chuyện đó, và tin nhắn bạn gửi thực chất là một cuộc trò chuyện giữa máy và người, và đây là một câu hỏi ở cuối.

Bạn sẽ nói gì tiếp theo? Vậy là nó không có bất kỳ ký ức nào như vậy, và điều đó rất hữu ích cho chúng ta vì thực ra chúng ta đang dựa vào khả năng lưu trữ toàn bộ bối cảnh này vào bộ nhớ ngắn hạn càng nhiều càng tốt trong tất cả các loại tương tác này, và điều đó có thể có một số hạn chế.

Cửa sổ ngữ cảnh

Trước đây, hạn chế chính chỉ là lượng thông tin bạn có thể đưa vào và nhiều cuộc trò chuyện chỉ gói gọn trong phạm vi ngữ cảnh.

Trước đây, bạn không thể thực sự dán nhiều thông tin vào đó. Giờ đây, chúng ta đã đạt đến mức thực sự có thể dán khá nhiều thông tin vào đó. Với OpenAI GPT-4.5, bạn có thể dán khoảng 300 trang văn bản. Anthropic, một đối thủ cạnh tranh chủ chốt, có thể dán khoảng 500 trang văn bản vào đó. Vậy nên, chúng ta đã thực sự đạt đến mức tôi không muốn sao chép và dán quá nhiều thông tin vào mỗi lời nhắc nữa.

Thực ra đó không còn là hạn chế nữa.

Những vấn đề ChatGPT cần khắc phục

Nhưng chúng tôi vẫn còn một số vấn đề mà các công ty và nhà phát triển các công cụ này cần phải khắc phục.

Một trong những vấn đề là 500 trang thì nhiều, nhưng vẫn chưa phải là toàn bộ Internet. Vậy nên, những khoảng trống kiến thức của họ vẫn chưa thể được lấp đầy chỉ bằng cách dán mọi thứ vào bộ nhớ ngắn hạn.

Vấn đề còn lại là có rất nhiều nghiên cứu được thực hiện bởi Liu và cộng sự cùng một số nhà nghiên cứu khác đã phát hiện ra rằng nếu bạn làm việc với bối cảnh ngắn hạn này, nếu bạn đưa một lượng thông tin lớn vào lời nhắc và thông tin quan trọng cần trích xuất lại bị ẩn ở đâu đó ở giữa, thì độ chính xác khi trích xuất thông tin đó sẽ giảm đi.

Trên thực tế, bạn có thể đạt được hiệu suất tốt hơn chỉ bằng cách lấy thông tin liên quan và đưa nó vào đầu lời nhắc thay vì trả tiền cho mẫu đắt nhất tiếp theo. Vì vậy, đây là điều khá thú vị để chúng ta suy nghĩ, bởi vì khi làm việc với những mô hình này, trước hết, chúng ta biết rằng mình thường xuyên đưa rất nhiều thông tin vào ngữ cảnh. Đó là cách nó chú ý đến các cuộc trò chuyện của chúng ta.

Đó là cách chúng tôi lấp đầy những khoảng trống kiến thức này. Vì vậy, một mặt, chúng tôi không muốn phải tìm kiếm trong tất cả các tài liệu khác nhau và tìm ra chính xác câu trả lời đúng. Đó là điều chúng tôi yêu cầu ChatGPT làm. Nhưng mặt khác, nếu chúng tôi đưa vào đó quá nhiều thông tin không liên quan, khả năng nó bỏ sót điều chúng tôi thực sự muốn nó xử lý sẽ ngày càng cao.

Chúng ta có thể giải quyết những vấn đề này như thế nào?

Vậy nên có một vài điều chúng ta có thể làm để giải quyết vấn đề này. Thứ nhất, xét trên phương diện cá nhân, chúng ta có thể nhớ rằng các cuộc trò chuyện dài về cơ bản đều được đưa vào cửa sổ ngữ cảnh này. Vì vậy, nếu chúng ta đang nói chuyện với nó về một chủ đề và sau đó thực sự muốn chuyển sang chủ đề khác, về cơ bản chúng ta có thể quyết định chuyển sang một cuộc trò chuyện mới, điều này rất dễ dàng trong các giao diện này. Một điều khác chúng ta có thể làm là lưu ý đến những thứ như lời nhắc lớn.

Vậy nên đây thực sự là những khối hướng dẫn cô đọng mà bạn thường thấy mọi người đặt ở đầu các tương tác này. Một lần nữa, điều đó có thể đồng nghĩa với việc mọi thứ sẽ được chuyển vào phần giữa, nơi mà thông tin thường bị bỏ sót. Vì vậy, chúng tôi đang cố gắng đảm bảo rằng mình tập trung mọi thứ càng nhiều càng tốt. Tất nhiên, nếu chúng tôi cũng đưa những khối thông tin lớn vào đó, chúng tôi đang cố gắng loại bỏ những thông tin mà chúng tôi biết là ít liên quan hơn.

Thế hệ tăng cường truy xuất (RAG)

Giải pháp khác cho loại vấn đề này mang tính công nghệ và doanh nghiệp hơn, nhưng chắc chắn là điều mà tất cả chúng ta đều cần lưu ý khi ngành công nghiệp đang phát triển, và đó là RAG. RAG là viết tắt của retrieval augmented generation (thế hệ tăng cường truy xuất). Cách thức thay đổi về cơ bản là thay vì câu hỏi của chúng ta đi thẳng đến ChatGPT chẳng hạn, mà không có gì khác, chúng ta có một cơ sở dữ liệu riêng biệt chứa thông tin quan trọng mà chúng ta muốn.

Vậy nên, đó có thể là tất cả tài liệu nội bộ của công ty mà chúng tôi không muốn công khai ra bên ngoài. Hoặc cũng có thể chỉ là một loạt thông tin mà chúng tôi biết là có liên quan, nhưng không thể sao chép và dán trực tiếp vào ngữ cảnh. Vậy nên, chúng tôi có một cơ sở dữ liệu riêng biệt, và có những công cụ gọi là cơ sở dữ liệu vector, về cơ bản được thiết kế để hoạt động rất tốt với các mô hình ngôn ngữ lớn, và chúng có logic rất giống với các mô hình này.

Nhờ đó, họ có thể trích xuất những tài liệu liên quan nhất cần đưa vào lời nhắc và tự nhiên thêm chúng vào ngữ cảnh. Điều này giúp tự động hóa bước tìm kiếm, sao chép, dán và loại bỏ những thông tin ít liên quan. Nó giúp mọi việc trở nên hợp lý hơn nhiều, đồng thời mang đến cho bạn một phiên bản riêng tư hơn nhưng vẫn phù hợp với ngữ cảnh hơn của các công cụ này, và bắt đầu giải quyết một số vấn đề mà chúng ta gặp phải về việc thiếu kiến thức.

Vậy nên, xét về những điều cần lưu ý và công việc tiềm năng mà bạn có thể muốn tham gia, điều đáng lưu ý là đó chính là ý nghĩa của RAG. Nhưng điều đó có ý nghĩa gì đối với chúng ta với tư cách cá nhân? Điều đó có ý nghĩa gì đối với chúng ta với tư cách là những người làm tiếp thị tìm kiếm? Vâng, như tôi đã nói trước đây, các công ty này có một vài vấn đề khá lớn khiến họ khó có thể lấp đầy tất cả những lỗ hổng kiến thức.

Ít nhất thì nó cũng khá đắt. Hiện tại, điều đó không phải là vấn đề lớn. Những công cụ này còn quá mới nên chúng ta không thực sự bận tâm đến việc sao chép và dán một chút. Nhưng tôi nghĩ sẽ đến lúc chúng ta bắt đầu so sánh các công cụ này dựa trên mức độ dễ sử dụng của chúng. Tôi có phải liên tục nhắc nhở nó về những thứ tôi đã làm tuần trước không? Nếu vậy, tôi có thể chuyển sang cái khác mà tôi không phải làm nhiều. Vì vậy, họ sẽ phải giải quyết vấn đề đó bằng cách nào đó.

Một cách họ có thể giải quyết vấn đề đó là tích hợp RAG ngay từ đầu. Về cơ bản, khi bạn sử dụng công cụ này, họ có ba tầng bộ nhớ. Họ có bộ nhớ dài hạn, mô hình, tức là cách nó đang hoạt động tại thời điểm đó, bộ nhớ ngắn hạn, tức là những thông tin bạn đang đưa vào cuộc trò chuyện văn bản, và sau đó là bộ nhớ trung hạn, tức là thông tin họ có thể thu thập được, nhưng họ chưa có thời gian hoặc nguồn lực để tích hợp chúng vào mô hình.

Bây giờ, nếu bạn tự mình thử làm RAG, và nếu bạn có kỹ năng, một chút thời gian và một chút kiến thức lập trình, tôi khuyên bạn nên thử, bạn sẽ thấy rằng rất nhiều kết luận bạn rút ra rất quen thuộc. Ví dụ, HTML là một cách tuyệt vời và linh hoạt để truyền đạt thông tin. Nếu ai đó thiết kế một trang web tốt, đặt đúng tiêu đề, việc trích xuất những thông tin liên quan nhất sẽ dễ dàng hơn nhiều, và sau đó, khối thông tin đó sẽ có nhiều khả năng đi vào câu trả lời của bạn hơn.

Tương tự, nếu bạn có một trang chứa đầy những nội dung không liên quan và một vài thông tin hữu ích, hoặc một trang nhắm đúng chủ đề bạn đang nghĩ đến, thì trang thứ hai có thể sẽ là trang hiển thị đầu tiên. Vì vậy, những điều chúng ta đã nghĩ đến về việc tối ưu hóa cho công cụ tìm kiếm rất phù hợp khi chúng ta bắt đầu nghĩ về RAG. Ngay cả khi họ không đi theo hướng RAG, chúng ta biết rằng họ vẫn phải thu thập và tìm kiếm tất cả thông tin này.

Vì vậy, ý tưởng về việc có những trang rất đáng để trình thu thập thông tin dành thời gian truy cập, có cấu trúc rất tốt, dễ hiểu, rất phù hợp, tất cả những điều này tiếp tục là một cách tốt để suy nghĩ về cách chúng ta có thể chuẩn bị cho khả năng tối ưu hóa cho các mô hình ngôn ngữ lớn trong tương lai.

Các yếu tố cần lưu ý

Tóm lại, với tư cách cá nhân, nếu chúng ta làm việc với một thứ gì đó như ChatGPT, chúng ta cần lưu ý rằng dữ liệu không phải là dữ liệu riêng tư, do đó bạn có thể cần xem lại cài đặt hoặc kiểm tra bằng cách sử dụng API.

Chúng tôi muốn giữ cho các cuộc trò chuyện tập trung nhất có thể vào những điều chúng tôi mong muốn. Nếu chúng tôi đang dán một loạt dữ liệu, hãy thực hiện một số kiểm tra để cố gắng loại bỏ những dữ liệu mà chúng tôi chắc chắn sẽ không có câu trả lời. Đối với các nhà tiếp thị tìm kiếm, nếu bạn đang tối ưu hóa trang web của mình cho các công cụ tìm kiếm tại thời điểm này và có ai đó hỏi bạn, "Nhưng bạn đang làm gì để đảm bảo rằng chúng tôi đã sẵn sàng cho các mô hình ngôn ngữ lớn", chúng tôi không biết chính xác điều gì sẽ xảy ra, nhưng có một cược rất, rất tốt rằng những gì bạn đang làm bây giờ để cải thiện hiệu suất cho các công cụ tìm kiếm tại thời điểm này sẽ rất phù hợp với các mô hình ngôn ngữ lớn sắp ra mắt.

Vậy nên tôi hy vọng các bạn cũng thích lắng nghe như tôi đã thích thú khi chia sẻ về tất cả những điều này. Nếu bạn có bất kỳ ý kiến nào, xin đừng ngần ngại liên hệ với tôi. Cảm ơn các bạn rất nhiều vì đã lắng nghe.

Bình luận

Dịch vụ liên quan

Nội dung bài viết