Sử dụng ChatGPT làm Trợ lý Báo cáo: Điều gì đã xảy ra sai?

Xin chào, độc giả!

\ Khi nói đến sự phát triển của trí tuệ nhân tạo, mọi thứ đang diễn ra rất nhanh. Chưa đầy hai năm kể từ khi các công cụ AI như ChatGPT, Midjourney, Stable Diffusion và LLaMA của Meta được phát hành công khai. Các cơ quan quản lý, nhà làm luật và doanh nghiệp đều bắt đầu hiểu rõ những tác động của việc sử dụng các công cụ AI tạo sinh.

\ Điều này bao gồm các tổ chức tin tức và nhà báo, những người đã bắt đầu thử nghiệm. Nieman Journalism Lab báo cáo rằng 5 trong số 45 ứng cử viên chưa được công bố cho giải Pulitzer năm nay đã sử dụng AI để "nghiên cứu, báo cáo hoặc kể về các bài dự thi của họ". Tại hội nghị báo chí dữ liệu NICAR hàng năm của Investigative Reporters & Editors ở Baltimore tuần trước, 14 trong số hơn 200 phiên làm việc có liên quan đến AI, thảo luận về cách công nghệ có thể giúp các nhà báo với quy trình làm việc, tóm tắt các tài liệu dày đặc và gỡ lỗi mã của họ.

\ Tôi có một phiên của riêng mình, một phiên có tiêu đề "Sử dụng Công cụ AI cho Báo chí Dữ liệu" trong đó tôi bắt đầu bằng cách xem xét nhiều công cụ có sẵn và nêu bật nhiều mối quan tâm về đạo đức liên quan đến chúng.

\ Sau đó, tôi đã trình bày kết quả của thử nghiệm tốn thời gian để sử dụng ChatGPT 4 làm trợ lý báo cáo một câu chuyện. Cảnh báo spoiler: Nó không diễn ra tốt lắm!

\ Câu chuyện mẫu mà tôi sử dụng cho bài tập này là vụ tàu trật bánh ở East Palestine, OH vào tháng 2 năm 2023, một câu chuyện lớn liên quan đến nhiều loại dữ liệu khác nhau mà tôi có thể yêu cầu ChatGPT giúp phân tích. Để rõ ràng, đây không phải là câu chuyện tôi đã báo cáo, nhưng tôi muốn thử sử dụng ChatGPT theo cách mà một nhà báo dữ liệu có thể sử dụng khi đưa tin về nó. Tôi đã dành RẤT NHIỀU thời gian trò chuyện với ChatGPT như một phần của bài tập này và, thành thật mà nói, đôi khi nó thật mệt mỏi. Bạn có thể đọc một trong những phiên trò chuyện của tôi tại đây. Sự tự tin mà ChatGPT thể hiện khi cung cấp thông tin nguồn kém (như Wikipedia) hoặc vị trí không chính xác có thể Tính sai. Đôi khi tôi có thể khiến AI Agent trò chuyện cung cấp cho tôi những gì tôi muốn, nhưng tôi phải rất cụ thể và tôi thường phải khiển trách nó.

\ Ví dụ, khi ChatGPT đáp ứng yêu cầu của tôi "tạo một bản đồ đơn giản tập trung vào vị trí của vụ tai nạn", tôi ngay lập tức nhận thấy rằng ghim trên bản đồ cách xa bất kỳ đường ray tàu nào. Khi tôi hỏi nó lấy Tọa độ cho vị trí tai nạn ở đâu, nó trả lời rằng những điều này được "suy ra dựa trên kiến thức chung về vị trí của sự kiện". Khi tôi yêu cầu nó cung cấp một trích dẫn cụ thể hơn, nó không thể cung cấp, và cứ lặp đi lặp lại rằng nó đang dựa vào "kiến thức chung". Tôi phải nhắc nhở công cụ rằng tôi đã nói với nó ngay từ đầu cuộc trò chuyện rằng "điều quan trọng là bạn phải trích dẫn nguồn của mình và luôn sử dụng các nguồn có thẩm quyền nhất". Trước khi cuối cùng nó có thể đánh dấu đúng vị trí, tôi phải nhắc nhở nó rằng nó có thể lấy Tọa độ vị trí từ một tài liệu có thẩm quyền mà tôi đã tải lên trước đó trong cuộc trò chuyện, một tệp PDF của báo cáo sự cố của Cục Quản lý Đường sắt Liên bang.

\ Trích xuất thông tin và Tóm tắt các tài liệu dài thường được trích dẫn là một trong những điểm mạnh nhất của các công cụ như ChatGPT. Kết quả của tôi rất khác nhau. Sau một số trao đổi qua lại, tôi đã dỗ dành AI Agent trích xuất các chi tiết và số lượng hóa chất nguy hiểm được phát tán trong vụ tai nạn và định dạng thông tin trong một bảng liệt kê tên hóa chất, số lượng phát tán, nó thường được sử dụng để làm gì và tác động của nó đối với sức khỏe con người. Nhưng phải thử một vài lần. Nơi nó tiết kiệm thời gian là giải thích thông tin chuyên môn có thể phải mất một cuộc tìm kiếm trên Google tốn thời gian để tìm ra—chẳng hạn như Giải mã số toa xe lửa.

\ Đôi khi, công cụ này quá háo hức để làm hài lòng, vì vậy tôi yêu cầu nó giảm bớt một chút: "Bạn có thể bỏ qua những cuộc trò chuyện phiếm và lịch sự". Người dùng có thể hướng dẫn bot thay đổi giọng điệu hoặc phong cách phản hồi của họ, nhưng việc nói với nó rằng nó là luật sư không làm cho nó chính xác hơn.

\ Nhìn chung, các phiên làm việc là rất nhiều công việc cố gắng tìm hiểu AI Agent lấy thông tin của nó từ đâu và chuyển hướng nó bằng các hướng dẫn chính xác. Nó mất rất nhiều thời gian.

\ Công ty sản xuất ChatGPT, OpenAI, đã không trả lời yêu cầu bình luận.

\ Dựa trên các tương tác của tôi, khả năng hữu ích nhất của ChatGPT cho đến nay là khả năng tạo và gỡ lỗi mã lập trình. (Tại một thời điểm trong bài tập East Palestine, nó đã tạo một số mã Python đơn giản để tạo bản đồ về vụ trật bánh.) Khi phản hồi yêu cầu viết mã, nó thường giải thích cách tiếp cận của mình (mặc dù nó có thể không phải là cách tốt nhất) và hiển thị công việc của nó, và bạn có thể chuyển hướng nó để tuân theo một cách tiếp cận khác nếu bạn nghĩ rằng kế hoạch của nó không phải là những gì bạn cần. Khả năng liên tục thêm vào các tính năng của mã của bạn trong khi AI Agent giữ lại ngữ cảnh và lịch sử về những gì bạn đã thảo luận thực sự có thể tiết kiệm cho bạn rất nhiều thời gian, tránh tìm kiếm công phu các bài đăng về một vấn đề tương tự trên StackOverflow (một trong những cộng đồng lập trình trực tuyến lớn nhất).

\ Bài tập NICAR khiến tôi lo ngại về việc sử dụng các công cụ AI tạo sinh cho công việc chính xác của báo chí dữ liệu. Thực tế là một công cụ mạnh mẽ như ChatGPT không thể tạo ra "biên lai" về chính xác cách nó biết điều gì đó đi ngược lại mọi thứ chúng tôi được đào tạo để làm với tư cách là nhà báo. Tôi cũng lo lắng về các tòa soạn nhỏ, thiếu nhân viên phụ thuộc quá nhiều vào các công cụ này khi ngành tin tức đang vật lộn với việc sa thải và đóng cửa. Và khi thiếu hướng dẫn từ ban lãnh đạo tòa soạn về việc sử dụng các công cụ này, nó có thể dẫn đến lỗi và sai sót.

\ Rất may, nhiều tòa soạn đã bắt đầu giải quyết một số mối quan tâm này bằng cách soạn thảo các chính sách AI để giúp các nhà báo và độc giả của họ hiểu cách họ dự định sử dụng AI trong công việc của mình.

\ The Markup đã làm theo sự dẫn dắt của các tổ chức tin tức khác và tuần trước chúng tôi đã cập nhật chính sách đạo đức của mình với một phần chi tiết các quy tắc của chúng tôi đối với bất kỳ việc sử dụng AI nào trong công việc của chúng tôi. Tóm lại, nó nói:

• Chúng tôi sẽ không xuất bản các câu chuyện hoặc tác phẩm nghệ thuật được tạo bởi AI (trừ khi nó là một phần của câu chuyện về AI)
• Chúng tôi sẽ luôn gắn nhãn hoặc tiết lộ việc sử dụng của nó
• Chúng tôi sẽ luôn kiểm tra công việc của mình một cách nghiêm ngặt và điều này chắc chắn áp dụng cho bất cứ điều gì được tạo bởi AI
• Tiến tới tương lai, chúng tôi sẽ đánh giá các cân nhắc về bảo mật, quyền riêng tư và đạo đức của bất kỳ công cụ AI mới nào

\ Cảm ơn bạn đã đọc và luôn kiểm tra kỹ mọi thứ mà bot trò chuyện nói với bạn!

\ Jon Keegan

Nhà báo Dữ liệu Điều tra

The Markup

Ghi công

• Jon Keegan, Nhà báo Dữ liệu Điều tra

Thiết kế và Đồ họa

• Gabriel Hongsdusit

Engagement

• Maria Puertas

Biên tập

• Ryan Tate
• Michael Reilly

\ Cũng được xuất bản tại đây

\ Ảnh của Valery Tenevoy trên Unsplash

\