Cây hậu tố

Trong khoa học máy tính, một cây hậu tố là một cấu trúc dữ liệu để biểu diễn các hậu tố của một xâu ký tự sao cho có thể thực hiện nhanh chóng nhiều thao tác trên xâu. Cây hậu tố của xâu S {\displaystyle S} là một cây có cạnh được gắn nhãn là các xâu ký tự và mỗi hậu tố của S {\displaystyle S} tương ứng với chuỗi thu được bằng cách ghép tất cả các nhãn của một đường từ gốc đến lá. Do đó nó là cây cơ số (cụ thể hơn, nó là cây Patricia) của các hậu tố của S {\displaystyle S} . Việc xây dựng cây hậu tố của xâu S {\displaystyle S} sử dụng thời gian và bộ nhớ tuyến tính với độ dài của S {\displaystyle S} . Sau khi đã xây dựng xong cây, có thể thực hiện nhanh chóng nhiều thao tác, chẳng hạn như tìm xâu con trong S {\displaystyle S} , tìm xâu con với một số lượng lỗi cố định, tìm biểu thức chính quy v.v... Cây hậu tố cũng là một trong những lời giải tuyến tính đầu tiên của bài toán tìm xâu con chung dài nhất. Tuy làm tăng tốc độ các thao tác nhưng việc lưu trữ cây hậu tố thường đòi hỏi nhiều bộ nhớ hơn chỉ lưu trữ xâu ký tự. Khái niệm này được đưa ra dưới tên gọi cây vị trí (position tree) bởi Weiner năm 1973, mà Donald Knuth sau đó gọi là "Thuật toán của năm 1973". Thuật toán được đơn giản hóa bởi McCreight năm 1976 , và bởi Ukkonen năm 1995. Ukkonen đưa ra thuật toán trực tuyến đầu tiên cho việc xây dựng cây hậu tố, nay gọi là thuật toán Ukkonen, với thời gian chạy nhanh ngang với thuật toán nhanh nhất khi đó. Các thuật toán này có thời gian chạy tuyến tính khi kích thước bảng chữ cái là hằng số, và có thời gian chạy xấu nhất là O ( n log ⁡ n ) {\displaystyle O(n\log n)} trong trường hợp tổng quát. Năm 1997, Martin Farach đưa ra thuật toán xây dựng cây hậu tố đầu tiên chạy trong thời gian tuyến tính cho mọi bảng chữ cái. Cụ thể hơn, đây là thuật toán thời gian tuyến tính đầu tiên cho xâu ký tự có bảng chữ cái kích thước đa thức. Thuật toán Farach nay đã trở thành thành phần cơ bản cho các thuật toán mới cho việc xây dựng cây hậu tố cũng như mảng hậu tố, trong bộ nhớ ngoài, nén, v.v... Cây hậu tố cho xâu S {\displaystyle S} độ dài n {\displaystyle n} là cây sao cho ( trang 90): các đường từ gốc tới lá có tương ứng 1-1 với các hậu tố của S {\displaystyle S} , các cạnh đều có nhãn là các xâu khác rỗng, mọi nút trong (ngoại trừ nút gốc) đều có ít nhất hai con. Do cây thỏa mãn tính chất trên có thể không tồn tại, ta chèn thêm vào cuối S {\displaystyle S} một ký tự đặc biệt không xuất hiện trong S {\displaystyle S} (thường ký hiệu là $). Điều này đảm bảo không có hậu tố nào là tiền tố của một hậu tố khác, và có do đó cây có đúng n {\displaystyle n} nút lá, ứng với n {\displaystyle n} hậu tố của S {\displaystyle S} . Do mọi nút trong khác gốc đều có hơn một con, cây có không quá n −  1 nút như vậy, và tổng cộng không quá n + (n − 1) + 1 = 2n nút (n lá, n − 1 nút trong khác gốc, 1 gốc). Liên kết hậu tố là một yếu tố quan trọng của các thuật toán đầu tiên nhưng các thuật toán về sau dựa trên thuật toán Farach không sử dụng chúng. Trong cây hậu tố đầy đủ, mọi nút trong đều có một liên kết hậu tố tới một nút trong khác. Nếu đường từ gốc tới một nút ứng với xâu χ α {\displaystyle \chi \alpha } , trong đó χ {\displaystyle \chi } là một ký tự và α {\displaystyle \alpha } là một xâu (có thể rỗng), thì nó có liên kết hậu tố tới nút có đường từ gốc tới nó ứng với xâu α {\displaystyle \alpha } . Chẳng hạn trong ví dụ trên, liên kết hậu tố của ANA trỏ tới nút NA. Liên kết hậu tố cũng được sử dụng bởi nhiều thuật toán trên cây. Cây hậu tố tổng quát là cây hậu tố cho một tập hợp các xâu thay vì chỉ một xâu. Nó biểu diễn tất cả các hậu tố của tất cả các xâu trong tập hợp. Mỗi xâu phải dùng một ký tự kết thúc riêng biệt. Có thể xây dựng cây hậu tố cho xâu S {\displaystyle S} độ dài n {\displaystyle n} trong thời gian Θ ( n ) {\displaystyle \Theta (n)} , nếu bảng chữ cái có kích thước đa thức (và do đó cũng đúng khi bảng chữ cái có kích thước hằng số). Với bảng chữ cái lớn hơn, đa số thời gian chạy là cho việc sắp xếp các chữ cái để đưa chúng về kích thước O ( n ) {\displaystyle O(n)} ; trong trường hợp tổng quát, việc này tốn thời gian O ( n log ⁡ n ) {\displaystyle O(n\log n)} . Các kết quả dưới đây là cho trường hợp kích thước bảng chữ cái là hằng số. Giả sử đã có cây hậu tố cho xâu S {\displaystyle S} độ dài n {\displaystyle n} , hoặc đã có cây hậu tố tổng quát cho tập hợp các xâu D = { S 1 , S 2 , … , S K } {\displaystyle D=\{S_{1},S_{2},\dots ,S_{K}\}} với tổng độ dài n = | n 1 | + | n 2 | + ⋯ + | n K | {\displaystyle n=|n_{1}|+|n_{2}|+\cdots +|n_{K}|} . Ta có thể: Tìm kiếm xâu con: Kiểm tra xem xâu P {\displaystyle P} độ dài m {\displaystyle m} có phải xâu con hay không trong thời gian O ( m ) {\displaystyle O(m)} ( trang 92). Tìm lần xuất hiện đầu tiên của một trong các mẫu P 1 , … , P q {\displaystyle P_{1},\dots ,P_{q}} với tổng độ dài m {\displaystyle m} trong thời gian O ( m ) {\displaystyle O(m)} . Tìm tất cả z {\displaystyle z} lần xuất hiện của các mẫu P 1 , … , P q {\displaystyle P_{1},\dots ,P_{q}} với tổng độ dài m {\displaystyle m} trong thời gian O ( m + z ) {\displaystyle O(m+z)} ( trang 123). Tìm kiếm biểu thức chính quy P trong thời gian kì vọng dưới tuyến tính theo n {\displaystyle n} (). Tìm cho mọi hậu tố của mẫu P {\displaystyle P} , độ dài chuỗi giống nhau dài nhất giữa tiền tố của P [ i … m ] {\displaystyle P[i\dots m]} và các xâu con của D {\displaystyle D} trong thời gian Θ ( m ) {\displaystyle \Theta (m)} ( trang 132). Xác định tính chất của xâu: Tìm xâu con chung dài nhất của xâu S i {\displaystyle S_{i}} và S j {\displaystyle S_{j}} trong thời gian Θ ( n i + n j ) {\displaystyle \Theta (n_{i}+n_{j})} ( trang 125). Tìm tất cả z {\displaystyle z} cặp tối đại trong thời gian Θ ( n + z ) {\displaystyle \Theta (n+z)} ( trang 144). Tìm mọi phân tích Lempel–Ziv trong thời gian Θ ( n ) {\displaystyle \Theta (n)} ( trang 166). Tìm xâu con lặp lại dài nhất trong thời gian Θ ( n ) {\displaystyle \Theta (n)} . Tìm xâu con lặp lại nhiều lần nhất với chiều dài ít nhất một số cho trước trong thời gian Θ ( n ) {\displaystyle \Theta (n)} . Tìm xâu ngắn nhất dùng bảng chữ cái Σ {\displaystyle \Sigma } mà không xuất hiện trong D {\displaystyle D} , trong thời gian O ( n + z ) {\displaystyle O(n+z)} , nếu có z {\displaystyle z} xâu như vậy. Tìm xâu con ngắn nhất chỉ xuất hiện đúng một lần trong thời gian Θ ( n ) {\displaystyle \Theta (n)} . Tìm, với mỗi i {\displaystyle i} , xâu con ngắn nhất của S i {\displaystyle S_{i}} không xuất hiện ở chỗ nào khác trong D {\displaystyle D} trong thời gian Θ ( n ) {\displaystyle \Theta (n)} . Có thể xây dựng một cấu trúc dữ liệu hỗ trợ cho cây hậu tố trong thời gian Θ ( n ) {\displaystyle \Theta (n)} để tìm tổ tiên chung thấp nhất của các nút trong thời gian hằng số( chương 8). Khi đó có thể: Tìm tiền tố chung dài nhất của hai hậu tố S i [ p . . n i ] {\displaystyle S_{i}[p..n_{i}]} và S j [ q . . n j ] {\displaystyle S_{j}[q..n_{j}]} trong thời gian Θ ( 1 ) {\displaystyle \Theta (1)} ( trang 196). Tìm mẫu P độ dài m với không quá k lỗi sai trong thời gian O ( k n + z ) {\displaystyle O(kn+z)} , trong đó z là số lần xuất hiện ( trang 200). Tìm tất cả z {\displaystyle z} xâu đối xứng tối đại trong Θ ( n ) {\displaystyle \Theta (n)} ( trang 198), hoặc thời gian Θ ( g n ) {\displaystyle \Theta (gn)} nếu cho phép bỏ qua g {\displaystyle g} ký tự, hoặc Θ ( k n ) {\displaystyle \Theta (kn)} nếu cho phép k {\displaystyle k} lỗi sai ( trang 201). Tìm tất cả z {\displaystyle z} xâu lặp lại hai lần liên tiếp nhau trong thời gian O ( n log ⁡ n + z ) {\displaystyle O(n\log n+z)} , và nếu cho phép k lỗi sai thì thời gian là O ( k n log ⁡ ( n / k ) + z ) {\displaystyle O(kn\log(n/k)+z)} ( trang 204). Tìm xâu con chung dài nhất của ít nhất k {\displaystyle k} xâu trong D {\displaystyle D} với k = 2 , … , K {\displaystyle k=2,\dots ,K} trong thời gian Θ ( n ) {\displaystyle \Theta (n)} ( trang 205). Tìm xâu con đối xứng dài nhất của một xâu cho trước (bằng cây hậu tố của xâu cho trước và xâu ngược lại) trong thời gian tuyến tính ( trang 197–199). Cây hậu tố được sử dụng rộng rãi để giải quyết các bài toán về xâu ký tự trong soạn thảo văn bản, tìm kiếm văn bản, tin sinh học, và nhiều lĩnh vực ứng dụng khác. Các ứng dụng chính bao gồm: Tìm kiếm xâu ký tự, trong thời gian O(m), trong đó m là độ dài mẫu cần tìm (với thời gian O(n) để xây dựng cây hậu tố trước khi tìm) Tìm kiếm xâu con lặp lại dài nhất Tìm kiếm xâu con chung dài nhất Tìm xâu con đối xứng dài nhất Cây hậu tố thường được sử dụng trong các ứng dụng tin sinh học, tìm kiếm mẫu trong dãy DNA hoặc protein (có thể được xem là các xâu ký tự dài). Khả năng tìm kiếm cho phép có lỗi sai là một điểm mạnh của cấu trúc dữ liệu này. Cây hậu tố cũng được sử dụng trong nén dữ liệu; có thể dùng nó để tìm dữ liệu lặp lại cũng như trong giai đoạn sắp xếp của biến đổi Burrows–Wheeler. Một biến thể của thuật toán nén LZW sử dụng cây hậu tố (LZSS). Cây hậu tố được sử dụng trong phân nhóm cây hậu tố, một thuật toán phân nhóm dữ liệu dùng cho công cụ tìm kiếm (đưa ra đầu tiên bởi ). Nếu mỗi nút và cạnh có thể được biểu diễn trong bộ nhớ Θ ( 1 ) {\displaystyle \Theta (1)} , thì có thể lưu trữ cả cây trong bộ nhớ Θ ( n ) {\displaystyle \Theta (n)} . Tổng độ dài các xâu trên các cạnh của cây là O ( n 2 ) {\displaystyle O(n^{2})} , nhưng có thể lưu mỗi cạnh bằng vị trí bắt đầu và kết thúc của một xâu con của S, nên tổng bộ nhớ cần dùng là Θ ( n ) {\displaystyle \Theta (n)} . Trường hợp xấu nhất của bộ nhớ cần dùng cho cây hậu tố là khi dữ liệu vào là một từ fibonacci, đòi hỏi 2 n {\displaystyle 2n} nút. Một lựa chọn quan trọng khi lập trình cây hậu tố là biểu diễn liên kết giữa nút cha và con trong cây. Cách đơn giản nhất là sử dụng danh sách liên kết gọi là danh sách chị em. Mỗi nút có một con trỏ trỏ tới nút con đầu tiên, và một con trỏ thứ hai trỏ tới nút kế tiếp trong danh sách chị em của nút đó. Cũng có thể sử dụng bảng băm, mảng đã sắp hoặc chưa sắp (sử dụng kĩ thuật gấp đôi mảng), hoặc cây nhị phân cân bằng. Mỗi lựa chọn cho một thời gian chạy khác nhau. Ta quan tâm tới: Chi phí tìm cạnh tới nút con có nhãn bắt đầu bằng một ký tự cho trước. Chi phí chèn thêm một nút con. Chi phí duyệt tất cả các nút con (chia trung bình cho mỗi nút con). Đặt σ {\displaystyle \sigma } là kích thước bảng chữ cái. Khi đó các chi phí là như sau: Ghi chú là chi phí chèn là chi phí trừ dần (do gấp đôi mảng) và chi phí của bảng băm là khi sử dụng băm hoàn hảo. Lượng thông tin cần lưu cho mỗi cạnh và nút của cây hậu tố là rất tốn kém, tiêu tốn khoảng 10 đến 20 lần lượng bộ nhớ cần thiết để lưu xâu ký tự ban đầu. Mảng hậu tố giảm tỉ lệ này xuống còn 4 và các nhà nghiên cứu vẫn đang tìm cấu trúc dữ liệu mới để giảm tỉ lệ này xuống nhỏ hơn nữa. Bộ nhớ cây hậu tố đòi hỏi nhanh chóng vượt quá dung lượng bộ nhớ trong của máy tính thông thường khi độ dài các xâu đạt đến cỡ gigabyte. Khi đó, cần sử dụng các thuật toán cho bộ nhớ ngoài để xây dựng cây. Có nhiều kết quả lý thuyết cho việc xây dựng cây hậu tố trong bộ nhớ ngoài. Thuật toán của Farach-Colton et al. là tối ưu về mặt lý thuyết, với độ phức tạp I/O bằng với sắp xếp. Tuy nhiên, như đánh giá trong thuật toán này là quá phức tạp nên vẫn chưa được sử dụng trong thực tế. Mặt khác, đã có những nghiên cứu thực tế cho việc xây dựng cây hậu tố trên đĩa với tốc độ (một vài) GB/giờ. Các phương pháp tốt nhất hiện nay là TDD, TRELLIS , DiGeST, và B2ST . TDD và TRELLIS chạy được cho tới kích thước của bộ gen người – khoảng 3 GB – tạo ra cây hậu tố kích thước khoảng vài chục gigabyte. Tuy nhiên các phương pháp này chưa thể chạy được cho các dữ liệu lớn hơn 3GB. DiGeST chạy nhanh hơn hẳn trong trường hợp này và xử lý xong dữ liệu 6GB trong 6 giờ. Có thể tìm mã nguồn và tài liệu của DiGeST ở . Tất cả các phương pháp này là cho việc xây dựng cây hậu tố khi kích thước cây vượt quá kích thước bộ nhớ trong nhưng dữ liệu vào vẫn nằm ở bộ nhớ trong. Phương pháp mới nhất, B2ST, có thể xử lý được dữ liệu vượt ngoài kích thước bộ nhớ trong. ERA là một phương pháp xây dựng cây hậu tố song song mới nhanh hơn hẳn các phương pháp cũ. ERA có thể xử lý bộ gen người trong 19 phút trên một máy tính để bàn 8 nhân với 16GB RAM. Trên một cụm gồm 16 máy tính Linux (mỗi máy 4GB RAM), ERA có thể xử lý bộ gen người trong 9 phút. Mảng hậu tố Cây hậu tố tổng quát ^ P. Weiner (1973). “Linear pattern matching algorithm”. 14th Annual IEEE Symposium on Switching and Automata Theory. tr. 1–11. doi:10.1109/SWAT.1973.13. ^ Edward M. McCreight (1976). “A Space-Economical Suffix Tree Construction Algorithm”. Journal of the ACM. 23 (2): 262–272. doi:10.1145/321941.321946. ^ E. Ukkonen (1995). “On-line construction of suffix trees” (PDF). Algorithmica. 14 (3): 249–260. doi:10.1007/BF01206331. ^ R. Giegerich and S. Kurtz (1997). “From Ukkonen to McCreight and Weiner: A Unifying View of Linear-Time Suffix Tree Construction” (PDF). Algorithmica. 19 (3): 331–353. doi:10.1007/PL00009177. Bản gốc (PDF) lưu trữ ngày 15 tháng 2 năm 2010. Truy cập ngày 5 tháng 3 năm 2012. ^ a b M. Farach (1997). “Optimal Suffix Tree Construction with Large Alphabets” (PDF). FOCS: 137–143. ^ a b c d e f g h i j k l m n o Gusfield, Dan (1999) [1997]. Algorithms on Strings, Trees and Sequences: Computer Science and Computational Biology. USA: Cambridge University Press. ISBN 0-521-58519-8. ^ Ricardo A. Baeza-Yates and Gaston H. Gonnet (1996). “Fast text searching for regular expressions or automaton searching on tries”. Journal of the ACM. ACM Press. 43 (6): 915–936. doi:10.1145/235809.235810. Đã bỏ qua tham số không rõ |address= (gợi ý |location=) (trợ giúp) ^ a b Allison, L. “Suffix Trees”. Truy cập ngày 14 tháng 10 năm 2008. ^ Oren Zamir and Oren Etzioni (1998). “Web document clustering: a feasibility demonstration”. SIGIR '98: Proceedings of the 21st annual international ACM SIGIR conference on Research and development in information retrieval. ACM. tr. 46–54. Đã bỏ qua tham số không rõ |address= (gợi ý |location=) (trợ giúp) ^ Martin Farach-Colton, Paolo Ferragina, S. Muthukrishnan (2000). “On the sorting-complexity of suffix tree construction”. Journal of the ACM. 47 (6): 987–1011. doi:10.1145/355541.355547.Quản lý CS1: nhiều tên: danh sách tác giả (liên kết) ^ Smyth, William (2003). Computing Patterns in Strings. Addison-Wesley. ^ a b Sandeep Tata, Richard A. Hankins, and Jignesh M. Patel (2003). “Practical Suffix Tree Construction”. VLDB '03: Proceedings of the 30th International Conference on Very Large Data Bases. Morgan Kaufmann. tr. 36–47. line feed character trong |book-title= tại ký tự số 62 (trợ giúp)Quản lý CS1: nhiều tên: danh sách tác giả (liên kết) ^ a b Benjarath Phoophakdee and Mohammed J. Zaki (2007). “Genome-scale disk-based suffix tree indexing”. SIGMOD '07: Proceedings of the ACM SIGMOD International Conference on Management of Data. ACM. tr. 833–844. Đã bỏ qua tham số không rõ |address= (gợi ý |location=) (trợ giúp); line feed character trong |book-title= tại ký tự số 56 (trợ giúp) ^ a b c Marina Barsky, Ulrike Stege, Alex Thomo, and Chris Upton (2008). “A new method for indexing genomes using on-disk suffix trees”. CIKM '08: Proceedings of the 17th ACM Conference on Information and Knowledge Management. ACM. tr. 649–658. Đã bỏ qua tham số không rõ |address= (gợi ý |location=) (trợ giúp); line feed character trong |book-title= tại ký tự số 52 (trợ giúp)Quản lý CS1: nhiều tên: danh sách tác giả (liên kết) ^ a b Marina Barsky, Ulrike Stege, Alex Thomo, and Chris Upton (2009). “Suffix trees for very large genomic sequences”. CIKM '09: Proceedings of the 18th ACM Conference on Information and Knowledge Management. ACM. Đã bỏ qua tham số không rõ |address= (gợi ý |location=) (trợ giúp); line feed character trong |book-title= tại ký tự số 52 (trợ giúp)Quản lý CS1: nhiều tên: danh sách tác giả (liên kết) ^ “The disk-based suffix tree for pattern search in sequenced genomes”. Truy cập ngày 15 tháng 10 năm 2009.[liên kết hỏng] ^ Essam Mansour & Amin Allam, Spiros Skiadopoulos, Panos Kalnis (2011). “ERA: Efficient Serial and Parallel Suffix Tree Construction for Very Long Strings” (PDF). PVLDB. 5 (1): 49–60. Truy cập ngày 4 tháng 11 năm 2011.Quản lý CS1: sử dụng tham số tác giả (liên kết) Cây hậu tố bởi Sartaj Sahni Cây hậu tố bởi Lloyd Allison Định nghĩa cây hậu tố tại NIST suffix_tree Lưu trữ 2012-02-14 tại Wayback Machine Thuật toán cây hậu tố viết bằng ngôn ngữ ANSI C libstree, một thư viện cây hậu tố viết bằng ngôn ngữ C Tree::Suffix, giao diện Perl cho libstree Strmat một thư viện cây hậu tố viết bằng C (dùng mảng thay vì danh sách liên kết) SuffixTree Lưu trữ 2007-05-04 tại Wayback Machine giao diện Python cho Strmat Universal Data Compression Based on the Burrows-Wheeler Transformation: Theory and Practice, ứng dụng của cây hậu tố cho BWT Theory and Practice of Succinct Data Structures, thuật toán cây hậu tố viết bằng ngôn ngữ C++ Practical Algorithm Template Library, một thư viện cây hậu tố viết bằng C++ bởi Roman S. Klyujkov Thuật toán cây hậu tố viết bằng Java Lưu trữ 2012-03-14 tại Wayback Machine