Datasets:

midas

/

krapivin

like 0

Follow

MIDAS Research Laboratory, IIIT-Delhi 16

[ "--", "T", "Unsupervised", "Learning", "of", "Multiple", "Motifs", "in", "Biopolymers", "Using", "Expectation", "Maximization", ".", "--", "A", "The", "MEME", "algorithm", "extends", "the", "expectation", "maximization", "-LRB-", "EM", "-RRB-", "algorithm", "for", "identifying", "motifs", "in", "unaligned", "biopolymer", "sequences", ".", "The", "aim", "of", "MEME", "is", "to", "discover", "new", "motifs", "in", "a", "set", "of", "biopolymer", "sequences", "where", "little", "or", "nothing", "is", "known", "in", "advance", "about", "any", "motifs", "that", "may", "be", "present", ".", "MEME", "innovations", "expand", "the", "range", "of", "problems", "which", "can", "be", "solved", "using", "EM", "and", "increase", "the", "chance", "of", "finding", "good", "solutions", ".", "First", ",", "subsequences", "which", "actually", "occur", "in", "the", "biopolymer", "sequences", "are", "used", "as", "starting", "points", "for", "the", "EM", "algorithm", "to", "increase", "the", "probability", "of", "finding", "globally", "optimal", "motifs", ".", "Second", ",", "the", "assumption", "that", "each", "sequence", "contains", "exactly", "one", "occurrence", "of", "the", "shared", "motif", "is", "removed", ".", "This", "allows", "multiple", "appearances", "of", "a", "motif", "to", "occur", "in", "any", "sequence", "and", "permits", "the", "algorithm", "to", "ignore", "sequences", "with", "no", "appearance", "of", "the", "shared", "motif", ",", "increasing", "its", "resistance", "to", "noisy", "data", ".", "Third", ",", "a", "method", "for", "probabilistically", "erasing", "shared", "motifs", "after", "they", "are", "found", "is", "incorporated", "so", "that", "several", "distinct", "motifs", "can", "be", "found", "in", "the", "same", "set", "of", "sequences", ",", "both", "when", "different", "motifs", "appear", "in", "different", "sequences", "and", "when", "a", "single", "sequence", "may", "contain", "multiple", "motifs", ".", "Experiments", "show", "that", "MEME", "can", "discover", "both", "the", "CRP", "and", "LexA", "binding", "sites", "from", "a", "set", "of", "sequences", "which", "contain", "one", "or", "both", "sites", ",", "and", "that", "MEME", "can", "discover", "both", "the", "10", "and", "35", "promoter", "regions", "in", "a", "set", "of", "E.", "coli", "sequences", ".", "--", "B", "Introduction", "The", "problem", "addressed", "by", "this", "work", "is", "that", "of", "identifying", "and", "characterizing", "shared", "motifs", "in", "a", "set", "of", "unaligned", "genetic", "or", "protein", "sequences", ".", "A", "motif", "is", "defined", "here", "as", "a", "pattern", "common", "to", "a", "set", "of", "nucleic", "or", "amino", "acid", "subsequences", "which", "share", "some", "biological", "property", "of", "interest", "such", "as", "being", "DNA", "binding", "sites", "for", "a", "regulatory", "protein", ".", "In", "computer", "science", "terminology", ",", "the", "problem", "is", ",", "given", "a", "set", "of", "strings", ",", "to", "find", "a", "set", "of", "non-overlapping", ",", "approximately", "matching", "substrings", ".", "In", "this", "report", "we", "are", "concerned", "only", "with", "contiguous", "motifs", ".", "In", "biological", "terms", ",", "this", "means", "that", "appearances", "of", "a", "motif", "may", "differ", "in", "point", "mutations", ",", "but", "insertions", "or", "deletions", "are", "not", "allowed", ".", "In", "computer", "science", "terms", ",", "this", "means", "that", "the", "approximately", "matching", "substrings", "must", "all", "have", "the", "same", "length", ".", "A", "simpler", "version", "of", "the", "problem", "is", ",", "given", "a", "dataset", "of", "biopolymer", "sequences", "believed", "to", "contain", "a", "single", "shared", "motif", ",", "to", "locate", "the", "starting", "position", "in", "each", "sequence", "of", "the", "appearance", "of", "the", "shared", "motif", "and", "to", "describe", "the", "shared", "motif", ".", "This", "report", "addresses", "the", "more", "general", "problem", "of", "finding", "and", "describing", "multiple", ",", "distinct", "shared", "motifs", "in", "a", "set", "of", "biopolymer", "52", "TIMOTHY", "L.", "BAILEY", "AND", "CHARLES", "ELKAN", "sequences", ".", "It", "is", "not", "assumed", "that", "anything", "is", "known", "in", "advance", "about", "the", "width", ",", "position", "or", "letter", "frequencies", "of", "the", "motifs", ",", "or", "even", "how", "many", "common", "motifs", "may", "exist", "in", "a", "set", "of", "sequences", ".", "Several", "methods", "have", "been", "presented", "in", "the", "literature", "which", "work", "on", "problems", "related", "to", "discovering", "multiple", ",", "distinct", "shared", "motifs", "in", "a", "set", "of", "biological", "sequences", ".", "The", "purpose", "of", "this", "research", "is", "to", "extend", "the", "range", "of", "problems", "that", "can", "be", "attacked", ".", "Hertz", "et", "al.", "-LSB-", "11", "-RSB-", "presented", "a", "greedy", "algorithm", "for", "discovering", "a", "single", ",", "shared", "motif", "that", "is", "present", "once", "in", "each", "of", "a", "set", "of", "sequences", ".", "Lawrence", "and", "Reilly", "-LSB-", "14", "-RSB-", "extended", "that", "work", "by", "developing", "an", "expectation", "maximization", "-LRB-", "EM", "-RRB-", "algorithm", "for", "solving", "the", "same", "problem", ".", "Lawrence", "et", "al.", "-LSB-", "13", "-RSB-", "solve", "the", "related", "problem", "of", "discovering", "multiple", ",", "distinct", "motifs", "when", "the", "number", "of", "occurrences", "of", "each", "motif", "in", "each", "sequence", "is", "known", "using", "a", "Gibbs", "sampling", "strategy", ".", "This", "report", "describes", "MEME", ",", "a", "new", "tool", "intended", "to", "help", "discover", "motifs", "when", "neither", "the", "number", "of", "motifs", "nor", "the", "number", "of", "occurrences", "of", "each", "motif", "in", "each", "sequence", "is", "known", ".", "1", "MEME", "incorporates", "three", "novel", "ideas", "for", "discovering", "motifs", ".", "ffl", "First", ",", "subsequences", "which", "actually", "occur", "in", "the", "input", "DNA", "or", "protein", "sequences", "are", "used", "as", "the", "starting", "points", "from", "which", "EM", "converges", "iteratively", "to", "locally", "optimal", "motifs", ".", "This", "increases", "the", "likelihood", "of", "finding", "globally", "optimal", "motifs", ".", "ffl", "Second", ",", "a", "heuristic", "modification", "of", "the", "EM", "algorithm", "allows", "the", "assumption", "that", "each", "sequence", "contains", "exactly", "one", "occurrence", "of", "the", "shared", "motif", "to", "be", "removed", ".", "This", "allows", "multiple", "appearances", "of", "a", "motif", "to", "occur", "in", "any", "sequence", "and", "permits", "the", "algorithm", "to", "ignore", "sequences", "with", "no", "appearance", "of", "a", "shared", "motif", ",", "which", "increases", "its", "resistance", "to", "noisy", "data", ".", "ffl", "Third", ",", "motifs", "are", "probabilistically", "erased", "after", "they", "are", "found", ".", "This", "allows", "several", "distinct", "motifs", "to", "be", "found", "in", "the", "same", "set", "of", "sequences", ",", "both", "when", "different", "motifs", "appear", "in", "different", "sequences", "and", "when", "a", "single", "sequence", "may", "contain", "multiple", "motifs", ".", "1.1", ".", "Searching", "tools", "versus", "learning", "tools", "This", "section", "explains", "the", "place", "of", "MEME", ",", "in", "the", "spectrum", "of", "sequence", "analysis", "tools", ".", "Experts", "on", "biological", "sequence", "analysis", "may", "wish", "to", "skip", "directly", "to", "the", "next", "section", ".", "Searching", "tools", ".", "Sequence", "analysis", "tools", "may", "be", "divided", "into", "two", "broad", "cate", "-", "gories", ",", "searching", "tools", "and", "learning", "tools", ".", "grail", ",", "blastx", ",", "fasta", ",", "etc.", "are", "searching", "tools", ",", "whereas", "MEME", "is", "a", "learning", "tool", ".", "A", "searching", "tool", "-LRB-", "also", "called", "a", "pattern-matching", "tool", "-RRB-", "takes", "as", "input", "one", "or", "more", "sequences", "and", "a", "pattern", ",", "and", "decides", "if", "the", "pattern", "matches", "each", "input", "sequence", ",", "and", "if", "so", ",", "where", ".", "The", "pattern", "may", "be", "-LRB-", "i", "-RRB-", "another", "sequence", ",", "as", "with", "blastx", "and", "fasta", ",", "-LRB-", "ii", "-RRB-", "a", "consensus", "subsequence", "or", "regular", "expression", "defining", "a", "motif", ",", "as", "with", "ProSearch", "-LSB-", "12", "-RSB-", ",", "or", "-LRB-", "iii", "-RRB-", "a", "more", "high-level", "combination", "of", "features", ",", "as", "with", "grail", "-LSB-", "20", "-RSB-", ".", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "53", "Learning", "tools", ".", "A", "supervised", "learning", "tool", "-LRB-", "also", "called", "a", "supervised", "pattern-recognition", "tool", "-RRB-", "takes", "as", "input", "a", "set", "of", "sequences", ",", "and", "discovers", "a", "pattern", "that", "all", "the", "sequences", "share", ".", "Supervised", "learning", "is", "often", "done", "by", "humans", "rather", "than", "by", "software", ",", "because", "it", "is", "an", "open-ended", "problem", "that", "is", "harder", "than", "searching", ".", "For", "example", ",", "the", "prosite", "profiles", "were", "created", "by", "Amos", "Bairoch", "by", "personally", "examining", "families", "of", "proteins", "-LSB-", "2", "-RSB-", ".", "An", "unsupervised", "learning", "tool", "takes", "as", "input", "a", "set", "of", "sequences", ",", "and", "discovers", "a", "pattern", "that", "some", "of", "the", "sequences", "share", ".", "Unsupervised", "learning", "is", "harder", "than", "supervised", "learning", "because", "the", "space", "of", "possible", "patterns", "is", "much", "larger", ".", "The", "pattern", "to", "be", "discovered", "is", "not", "required", "to", "be", "in", "any", "given", "input", "sequence", ",", "so", "the", "unsupervised", "learning", "algorithm", "must", "simultaneously", "look", "for", "a", "cluster", "of", "input", "sequences", "and", "a", "pattern", "that", "the", "members", "of", "this", "cluster", "do", "have", "in", "common", ".", "performs", "unsupervised", "learning", ".", "The", "output", "of", "a", "learning", "tool", ",", "namely", "a", "pattern", ",", "is", "often", "given", "to", "a", "search", "tool", "in", "order", "to", "find", "new", "sequences", "that", "exhibit", "the", "pattern", ".", "However", ",", "even", "if", "all", "the", "members", "of", "a", "family", "of", "sequences", "are", "already", "known", ",", "applying", "a", "learning", "tool", "to", "the", "family", "can", "still", "be", "useful", ",", "because", "examining", "the", "patterns", "that", "subsets", "of", "the", "family", "have", "in", "common", "can", "give", "insight", "into", "structure", ",", "function", ",", "and", "evolution", ".", "1.2", ".", "The", "expectation", "maximization", "-LRB-", "EM", "-RRB-", "algorithm", "Lawrence", "and", "Reilly", "-LSB-", "14", "-RSB-", "introduced", "the", "expectation", "maximization", "method", "as", "a", "means", "of", "solving", "a", "supervised", "motif", "learning", "problem", ".", "Their", "algorithm", "takes", "as", "input", "a", "set", "of", "unaligned", "sequences", "and", "a", "motif", "length", "-LRB-", "W", "-RRB-", "and", "returns", "a", "probabilistic", "model", "of", "the", "shared", "motif", ".", "The", "idea", "behind", "the", "method", "is", "that", "each", "sequence", "in", "the", "dataset", "contains", "a", "single", "example", "of", "the", "motif", ".", "We", "shall", "refer", "to", "this", "model", "of", "the", "data", "as", "the", "`", "one-occurrence-per-sequence", "'", "model", "or", "just", "the", "`", "one-per", "'", "model", ".", "It", "is", "assumed", "that", "where", "the", "motif", "appears", "-LRB-", "what", "its", "starting", "offset", "is", "-RRB-", "in", "each", "example", "is", "unknown", ".", "If", "this", "were", "known", ",", "subsequences", "of", "length", "W", "from", "each", "sequence", "starting", "at", "the", "known", "offset", "could", "be", "aligned", ",", "since", "no", "insertions", "or", "deletions", "are", "allowed", ",", "and", "the", "observed", "frequencies", "of", "the", "letters", "in", "each", "column", "of", "the", "alignment", "could", "be", "used", "as", "a", "model", "of", "the", "motif", ".", "In", "fact", ",", "if", "each", "example", "of", "the", "motif", "is", "assumed", "to", "have", "been", "generated", "by", "a", "sequence", "of", "independent", ",", "discrete", "random", "variables", ",", "then", "the", "observed", "frequencies", "of", "the", "letters", "in", "the", "columns", "are", "the", "maximum", "likelihood", "estimates", "of", "the", "distributions", "of", "the", "random", "variables", ".", "Of", "course", ",", "since", "the", "original", "sequences", "in", "the", "dataset", "are", "unaligned", ",", "the", "offsets", "are", "not", "known", ",", "so", "they", "must", "also", "be", "estimated", ".", "To", "do", "this", ",", "the", "EM", "algorithm", "estimates", "the", "probability", "that", "the", "shared", "motif", "starts", "in", "position", "j", "in", "sequence", "i", "in", "the", "dataset", ",", "given", "the", "data", "and", "an", "initial", "guess", "at", "a", "description", "of", "the", "motif", ".", "These", "probability", "estimates", ",", "are", "then", "used", "to", "reestimate", "the", "probability", "of", "letter", "l", "in", "column", "c", "of", "the", "motif", ",", "ae", "lc", ",", "for", "each", "letter", "in", "the", "alphabet", ".", "How", "the", "reestimations", "are", "done", "is", "described", "in", "the", "Appendix", ".", "The", "EM", "algorithm", "alternately", "reestimates", "z", "and", "ae", "until", "ae", "changes", "very", "little", "from", "54", "TIMOTHY", "L.", "BAILEY", "AND", "CHARLES", "ELKAN", "iteration", "to", "iteration", ".", "-LRB-", "The", "notation", "z", "is", "used", "to", "refer", "to", "the", "matrix", "of", "offset", "refers", "to", "the", "matrix", "of", "letter", "probabilities", "ae", "ij", ".", "-RRB-", "A", "pseudo-code", "description", "of", "the", "basic", "EM", "algorithm", "is", "given", "below", ".", "EM", "starts", "from", "an", "estimate", "of", "the", "model", "parameters", ",", "ae", ",", "provided", "by", "the", "user", "or", "generated", "at", "random", ".", "1", ".", "EM", "-LRB-", "dataset", ",", "W", "2", ".", "choose", "starting", "point", "-LRB-", "ae", "-RRB-", "3", ".", "do", "f", "4", ".", "reestimate", "z", "from", "ae", "5", ".", "reestimate", "ae", "from", "z", "6", ".", "g", "until", "-LRB-", "change", "in", "ae", "!", "ffl", "-RRB-", "7", ".", "return", "8", ".", "g", "The", "EM", "algorithm", "simultaneously", "discovers", "a", "model", "of", "the", "motif", "-LRB-", "the", "sequence", "of", "independent", "discrete", "random", "variables", "with", "parameters", "ae", "-RRB-", "and", "estimates", "the", "probability", "of", "each", "possible", "starting", "point", "of", "examples", "of", "the", "motif", "in", "the", "sequences", "in", "the", "dataset", "-LRB-", "z", "-RRB-", ".", "By", "definition", "-LSB-", "8", "-RSB-", ",", "the", "likelihood", "of", "the", "model", "given", "the", "training", "data", "is", "the", "probability", "of", "the", "data", "given", "the", "model", ".", "The", "EM", "algorithm", "finds", "values", "of", "the", "model", "parameters", "which", "maximize", "the", "expected", "likelihood", "of", "the", "data", "given", "the", "model", "ae", ",", "and", "the", "missing", "data", "z.", "For", "the", "one-occurrence-per-sequence", "model", "of", "the", "data", "used", "by", "Lawrence", "and", "Reilly", "-LSB-", "14", "-RSB-", ",", "the", "logarithm", "of", "the", "likelihood", "is", "where", "N", "is", "the", "number", "of", "sequences", "in", "the", "dataset", ",", "L", "is", "the", "length", "of", "the", "sequences", ",", "W", "is", "the", "length", "of", "the", "shared", "motif", ",", "L", "is", "the", "alphabet", "of", "the", "sequences", ",", "ae", "lj", "is", "the", "-LRB-", "unknown", "-RRB-", "probability", "of", "letter", "l", "in", "position", "j", "of", "the", "motif", ",", "ae", "l0", "is", "the", "-LRB-", "unknown", "-RRB-", "probability", "of", "letter", "l", "in", "all", "non-motif", "positions", ",", "f", "lj", "is", "the", "observed", "frequency", "of", "the", "letter", "l", "in", "position", "j", "of", "the", "motif", ",", "and", "f", "l0", "is", "the", "observed", "l", "in", "all", "non-motif", "positions", "of", "the", "sequences", ".", "It", "has", "been", "shown", "that", "expectation", "maximization", "algorithms", "find", "values", "for", "the", "model", "parameters", "at", "which", "the", "likelihood", "function", "assumes", "a", "local", "maximum", "-LSB-", "7", "-RSB-", ".", "It", "is", "reasonable", "to", "assume", "that", "the", "correct", "solution", "to", "the", "problem", "of", "characterizing", "the", "shared", "motif", "occurs", "at", "the", "global", "maximum", "of", "the", "likelihood", "function", ".", "For", "this", "reason", ",", "all", "else", "being", "equal", ",", "parameter", "values", "for", "the", "model", "which", "give", "higher", "values", "of", "the", "likelihood", "function", "are", "considered", "better", "solutions", "to", "the", "problem", ".", "2", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "55", "1.3", ".", "Limitations", "of", "EM", "and", "the", "one-occurrence-per-sequence", "model", ".", "EM", "and", "the", "one-per", "model", "suffer", "from", "several", "limitations", ".", "First", ",", "it", "is", "not", "clear", "how", "to", "choose", "a", "starting", "point", "-LRB-", "an", "initial", "value", "of", "ae", "-RRB-", "nor", "when", "to", "quit", "trying", "different", "starting", "points", ".", "This", "makes", "it", "difficult", "to", "be", "satisfied", "that", "the", "correct", "shared", "motif", "has", "been", "found", ".", "Second", ",", "the", "one-per", "model", "assumes", "that", "each", "sequence", "in", "the", "dataset", "contains", "exactly", "one", "appearance", "of", "the", "shared", "motif", ".", "This", "means", "that", "sequences", "with", "multiple", "appearances", "will", "under-contribute", ",", "and", "sequences", "with", "no", "appearances", "will", "over-contribute", "to", "the", "characterization", "of", "the", "motif", ".", "Having", "many", "sequences", "with", "no", "appearances", "of", "the", "motif", "in", "the", "dataset", "may", "make", "it", "impossible", "for", "EM", "with", "the", "one-per", "model", "to", "find", "the", "shared", "motif", "at", "all", ".", "Finally", ",", "EM", "with", "the", "one-per", "model", "assumes", "that", "there", "is", "only", "one", "shared", "motif", "in", "the", "sequences", ",", "and", "does", "not", "keep", "looking", "for", "further", "motifs", "after", "characterizing", "one", ".", "This", "makes", "EM", "with", "the", "one-per", "model", "incapable", "of", "finding", "motifs", "with", "insertions", "of", "variable", "length", "and", "incapable", "of", "discovering", "multiple", "motifs", "that", "may", "occur", "in", "the", "same", "or", "different", "sequences", "in", "a", "given", "dataset", ".", "Eliminating", "or", "reducing", "these", "limitations", "of", "EM", "with", "the", "one-per", "model", "would", "make", "the", "method", "less", "susceptible", "to", "noise", "in", "the", "dataset", ",", "able", "to", "find", "more", "complex", "patterns", "in", "the", "data", ",", "and", "last", "but", "not", "least", ",", "useful", "for", "exploring", "datasets", "which", "may", "contain", "instances", "of", "several", "different", "motifs", ".", "The", "algorithm", "described", "in", "this", "report", ",", "MEME", ",", "extends", "the", "EM", "algorithm", "to", "overcome", "the", "limitations", "described", "above", ".", "MEME", "chooses", "starting", "points", "system", "-", "atically", ",", "based", "on", "all", "subsequences", "of", "sequences", "in", "the", "training", "dataset", ".", "It", "allows", "the", "use", "of", "either", "the", "one-per", "model", "or", "a", "different", "model", "which", "eliminates", "the", "assumption", "of", "one", "sequence/one", "occurrence", "and", "allows", "each", "sequence", "to", "contain", "zero", ",", "one", "or", "several", "appearances", "of", "the", "shared", "motif", ".", "We", "call", "this", "new", "model", "the", "`", "n", "-", "occurrences-per-dataset", "'", "model", "or", "just", "the", "`", "n-per", "'", "model", ".", "because", "the", "it", "assumes", "that", "the", "dataset", "contains", "exactly", "n", "occurrences", "of", "the", "motif", ",", "where", "n", "is", "specified", "by", "the", "user", ".", "Finally", ",", "MEME", "probabilistically", "erases", "the", "appearances", "of", "a", "motif", "after", "it", "is", "found", ",", "and", "continues", "searching", "for", "further", "shared", "motifs", "in", "the", "dataset", ".", "The", "MEME", "algorithm", "with", "the", "n-per", "model", "was", "tested", "on", "two", "datasets", ".", "The", "first", "was", "a", "dataset", "combining", "sequences", "containing", "CRP", "binding", "sites", "-LSB-", "14", "-RSB-", "and", "sequences", "containing", "LexA", "binding", "sites", "-LSB-", "11", "-RSB-", ".", "MEME", "discovered", "the", "LexA", "binding", "site", "on", "its", "first", "pass", "and", "the", "CRP", "binding", "site", "on", "its", "second", "pass", ".", "The", "second", "dataset", "contained", "231", "E.", "coli", "promoter", "sequences", "-LSB-", "9", "-RSB-", ".", "3", "MEME", "discovered", "the", "TATAAT", "and", "TTGACA", "consensus", "sequences", "4", "on", "the", "first", "and", "second", "passes", ",", "respectively", ".", "This", "demonstrates", "the", "ability", "of", "MEME", "to", "avoid", "local", "optima", ",", "to", "tolerate", "large", "number", "of", "sequences", "which", "do", "not", "contain", "the", "motif", ",", "and", "to", "find", "multiple", "motifs", "in", "a", "single", "dataset", ".", "2", ".", "The", "MEME", "algorithm", "The", "MEME", "algorithm", "has", "at", "its", "core", "a", "modified", "version", "of", "the", "EM", "algorithm", "-LSB-", "14", "-RSB-", ".", "The", "pseudo-code", "for", "the", "algorithm", "is", "given", "below", ".", "In", "the", "inner", "loop", ",", "an", "algorithm", "based", "on", "the", "EM", "algorithm", "is", "run", "repeatedly", "with", "different", "starting", "points", "for", "the", "chosen", "model", "-LRB-", "either", "one-per", "model", "or", "n-per", "model", "-RRB-", ".", "We", "shall", "refer", "to", "this", "particular", "application", "of", "the", "EM", "algorithm", "as", "simply", "'EM", "'", "in", "what", "follows", ".", "The", "starting", "points", "are", "derived", "from", "actual", "subsequences", "which", "occur", "in", "the", "input", "dataset", ".", "EM", "is", "run", "only", "one", "iteration", ",", "not", "to", "convergence", ",", "from", "each", "starting", "point", "to", "save", "time", ".", "Each", "run", "of", "EM", "produces", "a", "probabilistic", "model", "of", "a", "possible", "shared", "motif", ".", "The", "starting", "point", "which", "yields", "the", "model", "with", "the", "highest", "likelihood", "is", "chosen", "and", "EM", "is", "run", "to", "convergence", "from", "this", "starting", "point", ".", "The", "model", "of", "the", "shared", "motif", "thus", "discovered", "is", "printed", ".", "Finally", ",", "all", "appearances", "of", "the", "shared", "motif", "in", "the", "dataset", "are", "erased", ".", "The", "outer", "loop", "repeats", "the", "whole", "process", "to", "discover", "further", "shared", "motifs", ".", "The", "following", "sections", "describe", "each", "of", "these", "steps", "of", "the", "algorithm", "in", "more", "detail", ".", "1", ".", "MEME", "-LRB-", "dataset", ",", "W", ",", "NSITES", ",", "PASSES", "-RRB-", "f", "2", ".", "for", "3", ".", "for", "each", "subsequence", "in", "dataset", "f", "4", ".", "run", "EM", "for", "1", "iteration", "with", "starting", "point", "5", ".", "derived", "from", "this", "subsequence", "6", ".", "choose", "model", "of", "shared", "motif", "with", "highest", "likelihood", "7", ".", "run", "EM", "to", "convergence", "from", "starting", "point", "8", ".", "which", "generated", "that", "model", "9", ".", "print", "converged", "model", "of", "shared", "motif", "10", ".", "erase", "appearances", "of", "shared", "motif", "from", "dataset", "11", ".", "g", "12", ".", "g", "13", ".", "g", "The", "output", "of", "MEME", "includes", "a", "specificity", "or", "log-odds", "matrix", ",", "spec", ".", "The", "log-odds", "matrix", "has", "L", "rows", "and", "W", "columns", "and", "is", "calculated", "as", "spec", ".", "The", "information", "content", "score", "of", "a", "subsequence", "is", "calculated", "by", "summing", "the", "entries", "in", "the", "matrix", "corresponding", "to", "the", "letters", "in", "the", "subsequence", ".", "5", "This", "score", "gives", "a", "measure", "of", "the", "likelihood", "of", "the", "subsequence", "being", "an", "instance", "of", "the", "motif", "versus", "an", "instance", "of", "the", "``", "background", "''", ".", "Together", "with", "a", "suitable", "threshold", ",", "the", "information", "content", "score", "can", "be", "used", "to", "classify", "subsequences", "in", "new", "sequences", "not", "part", "of", "the", "training", "set", ".", "2.1", ".", "Using", "subsequences", "as", "starting", "points", "for", "EM", "Given", "different", "starting", "points", "-LRB-", "i.e.", ",", "initial", "letter", "probability", "matrices", "ae", "-RRB-", "the", "EM", "algorithm", "may", "converge", "to", "different", "final", "models", ".", "These", "models", "are", "local", "maxima", "of", "the", "likelihood", "function", "described", "earlier", ".", "The", "correct", "model", "for", "the", "shared", "motif", "is", "expected", "to", "be", "the", "model", "which", "globally", "maximizes", "the", "likelihood", "function", ",", "but", "EM", "is", "not", "guaranteed", "to", "find", "the", "global", "maximum", ",", "only", "a", "local", "maximum", ".", "Previous", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "57", "authors", "-LRB-", "-LSB-", "14", "-RSB-", ",", "-LSB-", "5", "-RSB-", "-RRB-", "have", "recommended", "using", "several", "starting", "points", "for", "EM", "and", "choosing", "the", "model", "with", "the", "highest", "likelihood", ",", "but", "how", "to", "choose", "the", "starting", "points", "has", "not", "been", "discussed", "in", "detail", ".", "One", "might", "try", "using", "randomly", "chosen", "letter", "frequency", "matrices", "as", "starting", "points", ",", "but", "the", "sequences", "in", "the", "dataset", "provide", "a", "way", "to", "choose", "more", "intelligent", "ones", ".", "Since", "our", "models", "for", "motifs", "do", "not", "allow", "for", "insertions", "or", "deletions", ",", "the", "optimal", "model", "must", "agree", "very", "well", "with", "some", "contiguous", "subsequences", "of", "the", "sequences", "in", "the", "dataset-the", "instances", "of", "the", "motif", "in", "the", "sequences", ".", "A", "good", "way", "to", "search", "the", "space", "of", "possible", "starting", "points", "for", "EM", "should", "thus", "be", "to", "convert", "each", "subsequence", "of", "length", "W", "into", "a", "letter", "probability", "matrix", "and", "use", "each", "such", "matrix", "as", "a", "starting", "point", ".", "This", "is", "the", "approach", "used", "by", "MEME", ".", "Since", "the", "starting", "point", "letter", "frequency", "matrices", "obtained", "from", "subsequences", "corresponding", "to", "the", "actual", "occurrences", "of", "the", "shared", "motif", "should", "be", "``", "close", "''", "to", "the", "correct", "letter", "probability", "matrix", "-LRB-", "i.e.", ",", "model", "-RRB-", ",", "EM", "should", "tend", "to", "converge", "to", "the", "global", "optimum", "when", "run", "with", "them", "as", "starting", "points", ".", "6", "For", "example", ",", "suppose", "the", "unknown", "optimal", "value", "of", "ae", "for", "the", "shared", "motif", "that", "we", "are", "trying", "to", "discover", "using", "MEME", "is", "actually", "letter", "position", "in", "motif", "and", "the", "consensus", "sequence", "is", "TATAAT", ".", "Presumably", ",", "this", "sequence", "or", "something", "close", "to", "it", "-LRB-", "i.e.", ",", "with", "few", "mutations", "-RRB-", "occurs", "in", "at", "least", "one", "of", "the", "sequences", "in", "the", "dataset", ".", "It", "is", "reasonable", "to", "postulate", "that", "if", "we", "choose", "as", "a", "starting", "point", "for", "EM", "a", "letter", "probability", "matrix", "derived", "in", "some", "simple", "manner", "from", "the", "consensus", "sequence", ",", "or", "a", "subsequence", "similar", "to", "it", ",", "then", "EM", "should", "tend", "to", "converge", "to", "the", "optimal", "model", ".", "If", "we", "try", "all", "of", "the", "subsequences", "-LRB-", "of", "length", "six", "in", "this", "example", "-RRB-", "of", "the", "sequences", "in", "the", "dataset", ",", "it", "is", "reasonable", "to", "assume", "that", "at", "least", "one", "of", "them", "will", "be", "``", "close", "''", "to", "TATAAT", "and", "will", "cause", "EM", "to", "converge", "to", "the", "optimal", "model", ".", "-LRB-", "Note", "that", "MEME", "does", "not", "use", "all", "possible", "subsequences", "of", "a", "given", "length", ",", "just", "the", "ones", "which", "actually", "occur", "in", "the", "dataset", ".", "-RRB-", "The", "question", "remains", "of", "how", "to", "convert", "a", "subsequence", "into", "a", "letter", "probability", "matrix", ".", "One", "can", "not", "simply", "convert", "it", "to", "a", "matrix", "with", "probability", "1.0", "for", "the", "letter", "in", "the", "subsequence", "and", "0.0", "for", "all", "others", ",", "i.e.", ",", "convert", "TATAAT", "to", "letter", "position", "in", "motif", "A", "G", "58", "TIMOTHY", "L.", "BAILEY", "AND", "CHARLES", "ELKAN", "because", "the", "EM", "algorithm", "can", "not", "move", "from", "such", "a", "starting", "point", ".", "With", "such", "a", "starting", "point", ",", "all", "offset", "probabilities", "will", "be", "estimated", "to", "be", "0.0", "except", "for", "sub-sequences", "which", "match", "the", "starting", "point", "subsequence", "exactly", ".", "This", "will", "cause", "reestimation", "of", "the", "letter", "frequencies", "to", "yield", "the", "starting", "point", "again", ".", "An", "effective", ",", "if", "somewhat", "arbitrary", "solution", "is", "to", "fix", "the", "frequency", "of", "the", "letter", "in", "the", "subsequence", "at", "some", "value", "fix", "the", "frequencies", "of", "the", "other", "letters", "at", "is", "the", "length", "of", "the", "alphabet", ".", "This", "ensures", "that", "the", "frequencies", "in", "each", "column", "sum", "to", "1.0", "and", "that", ",", "for", "X", "close", "to", "1.0", ",", "the", "starting", "point", "is", "``", "close", "''", "to", "the", "subsequence", ".", "The", "results", "reported", "in", "this", "paper", "are", "0:5", ".", "Values", "of", "X", "between", "0.4", "and", "0.8", "worked", "approximately", "equally", "well", "-LRB-", "experimental", "data", "not", "shown", "-RRB-", ".", "With", "this", "value", "of", "X", ",", "the", "starting", "point", "for", "EM", "generated", "from", "the", "subsequence", "TATAAT", "is", "letter", "position", "in", "motif", "A", "0.17", "0.5", "0.17", "0.5", "0.5", "0.17", "It", "would", "be", "highly", "expensive", "computationally", "to", "run", "EM", "until", "convergence", "from", "every", "possible", "starting", "point", "corresponding", "to", "some", "subsequence", "of", "length", "W", "in", "the", "input", "dataset", ".", "It", "turns", "out", "that", "this", "is", "not", "necessary", ".", "EM", "converges", "so", "quickly", "from", "subsequences", "which", "are", "similar", "to", "the", "shared", "motif", "that", "the", "best", "starting", "point", "can", "often", "be", "detected", "by", "running", "only", "one", "iteration", "of", "EM", ".", "As", "will", "be", "described", "below", ",", "MEME", "was", "able", "to", "find", "shared", "motifs", "when", "run", "for", "only", "one", "iteration", "from", "each", "possible", "subsequence", "starting", "point", ",", "and", "then", "run", "until", "convergence", "from", "the", "starting", "point", "with", "the", "highest", "likelihood", ".", "In", "other", "words", ",", "MEME", "runs", "EM", "for", "specified", "number", "of", "iterations", "-LRB-", "one", "iteration", "in", "all", "the", "results", "reported", "here", "-RRB-", "on", "each", "subsequence", "starting", "point", ",", "chooses", "the", "starting", "point", "that", "yields", "the", "highest", "likelihood", ",", "and", "then", "runs", "EM", "to", "convergence", "from", "this", "starting", "point", ".", "Since", "each", "iteration", "of", "the", "EM", "algorithm", "takes", "computation", "time", "roughly", "linear", "in", "the", "size", "of", "the", "dataset", ",", "and", "the", "number", "of", "subsequences", "is", "linear", "in", "the", "size", "of", "the", "dataset", ",", "MEME", "takes", "time", "O", "-LRB-", "n", "2", "-RRB-", "where", "n", "is", "the", "size", "of", "the", "dataset", "in", "characters", ".", "2.2", ".", "Dealing", "with", "multiple", "appearances", "of", "a", "shared", "motif", "MEME", "allows", "the", "user", "to", "specify", "that", "either", "the", "one-per", "model", "or", "the", "n-per", "model", "be", "used", ".", "With", "the", "one-per", "model", ",", "MEME", "uses", "the", "EM", "algorithm", "of", "Lawrence", "and", "Reilly", "-LSB-", "14", "-RSB-", "to", "fit", "the", "model", "to", "the", "dataset", ".", "To", "fit", "the", "n-per", "model", ",", "a", "heuristic", "modification", "of", "the", "EM", "algorithm", "is", "used", ".", "The", "one-per", "model", "assumes", "that", "each", "sequence", "in", "the", "dataset", "contains", "exactly", "one", "appearance", "of", "the", "shared", "motif", "to", "be", "characterized", ".", "This", "assumption", "determines", "the", "way", "in", "which", "the", "offset", "probabilities", "are", "reestimated", ".", "The", "reestimation", "procedure", "ensures", "that", "the", "offset", "probabilities", "for", "each", "sequence", "sum", "to", "1:0", ".", "This", "means", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "59", "that", "if", "a", "given", "sequence", "has", "more", "than", "one", "appearance", "of", "the", "shared", "motif", ",", "it", "can", "not", "contribute", "any", "more", "to", "the", "reestimation", "of", "the", "letter", "frequencies", "than", "a", "sequence", "with", "only", "one", "appearance", ".", "Additionally", ",", "if", "a", "sequence", "has", "no", "appearances", "of", "the", "shared", "motif-a", "common", "event", "when", "exploring", "for", "new", "shared", "motifs-it", "contributes", "erroneously", "to", "the", "reestimation", "of", "the", "letter", "frequencies", ".", "MEME", "modifies", "the", "EM", "algorithm", "a", "when", "fitting", "the", "n-per", "model", "to", "a", "dataset", ".", "Instead", "of", "normalizing", "the", "reestimated", "offset", "probabilities", "to", "sum", "to", "1:0", "for", "each", "sequence", ",", "all", "offset", "probabilities", "are", "normalized", "to", "sum", "to", "a", "user-supplied", "value", "NSITES", ",", "subject", "to", "the", "constraint", "that", "no", "single", "offset", "probability", "may", "exceed", "1.0", ".", "This", "normalization", "is", "done", "over", "all", "sequences", "simultaneously", ",", "not", "sequence", "by", "sequence", ".", "The", "intent", "is", "for", "NSITES", "to", "be", "the", "expected", "number", "of", "appearances", "of", "the", "shared", "motif", "in", "the", "dataset", ".", "If", "NSITES", "is", "set", "equal", "to", "the", "number", "of", "sequences", "in", "the", "dataset", ",", "it", "is", "possible", "for", "the", "n-per", "model", "to", "get", "approximately", "the", "same", "results", "as", "the", "one-per", "model", "on", "a", "dataset", "that", "has", "one", "appearance", "of", "the", "shared", "motif", "in", "each", "sequence", ".", "For", "datasets", "with", "the", "appearances", "of", "the", "motif", "distributed", "other", "than", "one", "per", "sequence", ",", "the", "MEME", "with", "the", "n-per", "model", "is", "able", "to", "choose", "models", "that", "assign", "the", "offset", "probabilities", "in", "any", "fashion", "which", "satisfies", "the", "two", "constraints", "mentioned", "above", ".", "The", "relaxation", "of", "the", "one", "motif", "appearance", "per", "sequence", "constraint", "in", "the", "n-per", "model", "allows", "MEME", "to", "benefit", "from", "sequences", "with", "multiple", "appearances", "of", "the", "shared", "motif", ".", "It", "also", "can", "help", "alleviate", "the", "problem", "of", "sequences", "which", "do", "not", "contain", "the", "motif", "blurring", "its", "characterization", ".", "When", "NSITES", "is", "lower", "than", "the", "number", "of", "sequences", "in", "the", "dataset", ",", "MEME", "can", "assign", "very", "low", "offset", "probabilities", "to", "all", "positions", "in", "a", "sequence", "that", "does", "not", "contain", "the", "motif", "at", "all", ".", "By", "contrast", ",", "the", "one-per", "model", "must", "assign", "offset", "probabilities", "summing", "to", "1.0", "to", "each", "sequence", "in", "the", "dataset", ".", "The", "effect", "of", "various", "settings", "for", "NSITES", "is", "discussed", "in", "Section", "4.3", ".", "In", "summary", ",", "the", "exact", "value", "chosen", "for", "NSITES", "is", "not", "critical", ",", "so", "it", "is", "not", "necessary", "to", "know", "in", "advance", "exactly", "how", "many", "times", "a", "motif", "is", "present", "in", "the", "dataset", ".", "One", "side", "effect", "of", "allowing", "a", "single", "sequence", "to", "have", "offset", "probabilities", "that", "sum", "to", "more", "than", "1.0", "is", "that", "long", "repeated", "sequences", "are", "seen", "by", "MEME", "using", "the", "n", "-", "per", "model", "as", "though", "they", "were", "multiple", "appearances", "of", "a", "shorter", "sequence", ".", "For", "example", ",", "if", "W", "is", "6", ",", "the", "sequence", "AAAAAAAA", "is", "treated", "by", "the", "n-per", "model", "roughly", "as", "though", "it", "were", "three", "appearances", "of", "the", "sequence", "AAAAAA", ".", "This", "is", "so", "because", "the", "n-per", "model", "might", "allow", "offsets", "1", ",", "2", "and", "3", "of", "the", "sequence", "to", "have", "the", "maximum", "probability", "of", "1.0", ".", "-LRB-", "The", "one-per", "model", "would", "not", "allow", "this", ",", "since", "the", "total", "offset", "probability", "for", "a", "single", "sequence", "must", "sum", "to", "1.0", ".", "-RRB-", "This", "is", "problematic", "because", "it", "is", "far", "more", "surprising", "to", "find", "3", "non-overlapping", "occurrences", "of", "the", "sequence", "AAAAAA", "than", "to", "find", "one", "occurrence", "of", "sequence", "AAAAAAAA", ".", "So", ",", "we", "would", "like", "MEME", "to", "search", "for", "NSITES", "non-overlapping", "occurrences", "of", "the", "motif", ".", "To", "overcome", "this", "difficulty", ",", "MEME", "enforces", "an", "additional", "constraint", "when", "calculating", "the", "offset", "probabilities", "for", "the", "n-per", "model", ".", "It", "renormalizes", "the", "offset", "probabilities", "so", "that", "no", "W", "adjacent", "offsets", "have", "probabilities", "that", "sum", "to", "greater", "than", "1.0", ".", "This", "essentially", "makes", "the", "n-per", "model", "treat", "sequences", "like", "AAAAAAAA", "the", "same", "way", "as", "the", "one-per", "model", "does", ",", "assigning", "at", "most", "probability", "1", "=", "3", "to", "each", "of", "the", "three", "offsets", "at", "which", "identical", "subsequences", "AAAAAA", "start", ".", "2.3", ".", "Finding", "several", "shared", "motifs", "When", "a", "single", "dataset", "of", "sequences", "contains", "more", "than", "one", "distinct", "shared", "motif", ",", "EM", "with", "the", "one-per", "model", "can", "not", "directly", "find", "more", "than", "one", "of", "them", ".", "If", "the", "motifs", "have", "some", "similarity", ",", "EM", "may", "always", "converge", "to", "the", "most", "conserved", "motif", ".", "7", "Another", "possibility", "is", "that", "EM", "may", "converge", "to", "a", "model", "that", "describes", "part", "of", "the", "most", "conserved", "motif-its", "left", "or", "right", "side", "for", "instance", ".", "The", "MEME", "algorithm", "solves", "this", "problem", "by", "probabilistically", "erasing", "the", "shared", "motif", "found", "by", "EM", "and", "then", "repeating", "EM", "to", "find", "the", "next", "shared", "motif", ".", "By", "effectively", "removing", "each", "motif", "as", "it", "is", "found", ",", "MEME", "is", "able", "to", "find", "the", "next", "motif", "without", "interference", "from", "the", "more", "conserved", "motifs", "found", "first", ".", "The", "manner", "in", "which", "MEME", "erases", "a", "motif", "is", "designed", "to", "be", "as", "continuous", "as", "possible", ".", "New", "variables", "w", "ij", "are", "defined", "which", "associate", "a", "weight", "with", "position", "j", "in", "sequence", "i", ".", "The", "weights", "represent", "the", "probability", "that", "the", "given", "position", "in", "the", "given", "sequence", "is", "not", "part", "of", "a", "motif", "previously", "discovered", "by", "MEME", ".", "The", "weights", "are", "all", "set", "initially", "to", "1.0", ".", "After", "MEME", "discovers", "a", "shared", "motif", ",", "the", "offset", "the", "probability", "that", "an", "appearance", "of", "the", "motif", "starts", "at", "a", "position", "j", "in", "sequence", "i.", "So", ",", "assuming", "independence", ",", "the", "probability", "that", "position", "k", "in", "sequence", "i", "is", "not", "part", "of", "the", "newly", "discovered", "motif", "is", "the", "product", "of", "-LRB-", "1", "for", "all", "j", "between", "k", "\\", "Gamma", "W", "and", "k", ".", "So", "the", "old", "value", "of", "w", "ij", "is", "updated", "by", "multiplying", "it", "by", "the", "probability", "that", "no", "potential", "motif", "which", "overlaps", "it", "is", "an", "example", "of", "the", "newly", "discovered", "shared", "motif", ".", "The", "w", "ij", "are", "used", "in", "reestimating", "the", "letter", "frequencies", ".", "Instead", "of", "summing", "the", "offset", "probabilities", "z", "ij", ",", "the", "weighted", "offset", "probabilities", "are", "summed", ".", "To", "understand", "how", "the", "weighting", "scheme", "effectively", "erases", "previously", "discovered", "motifs", ",", "suppose", "that", "MEME", "has", "discovered", "one", "motif", "and", "is", "looking", "for", "the", "second", ".", "Suppose", "position", "j", "in", "sequence", "i", "was", "the", "start", "of", "an", "appearance", "of", "the", "first", "motif", "found", ".", "Then", "the", "new", "weights", "w", "ij", "through", "w", "i", ";", "-LRB-", "j", "+", "W", "\\", "Gamma1", "-RRB-", "will", "all", "be", "less", "than", "Hence", "they", "can", "not", "contribute", "much", "to", "the", "reestimation", "of", "ae", "and", "are", "effectively", "erased", ".", "Notice", "that", "if", "a", "position", "only", "matches", "the", "discovered", "motif", "poorly", ",", "then", "z", "ij", "will", "be", "low", ",", "so", "the", "weight", "for", "that", "position", "will", "remain", "fairly", "high", ".", "The", "degree", "to", "which", "a", "position", "is", "erased", "is", "proportional", "to", "the", "certainty", "-LRB-", "z", "ij", "-RRB-", "that", "it", "is", "part", "of", "a", "previously", "discovered", "motif", ".", "This", "makes", "MEME", "less", "sensitive", "to", "chance", "similarities", "than", "if", "a", "match", "threshold", "were", "set", "and", "all", "positions", "with", "z", "ij", "value", "above", "that", "threshold", "were", "completely", "erased", ".", "3", ".", "Experimental", "results", "This", "section", "describes", "experiments", "using", "MEME", "that", "were", "conducted", "on", "two", "datasets", ".", "In", "all", "cases", ",", "the", "model", "used", "by", "MEME", "was", "the", "n-per", "model", ".", "The", "first", "dataset", ",", "which", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "61", "will", "be", "referred", "to", "as", "the", "CRP/LexA", "dataset", ",", "comprises", "DNA", "fragments", "which", "contain", "binding", "sites", "for", "the", "CRP", "and", "LexA", "regulatory", "proteins", ".", "The", "CRP/LexA", "dataset", "consists", "of", "all", "of", "the", "samples", "in", "the", "CRP", "dataset", "plus", "all", "the", "samples", "in", "the", "LexA", "dataset", ",", "which", "are", "described", "below", ".", "The", "second", "dataset", ",", "which", "will", "be", "referred", "to", "as", "the", "promoter", "dataset", ",", "contains", "samples", "of", "prokaryotic", "promoter", "regions", ".", "It", "is", "also", "described", "in", "detail", "below", ".", "An", "overview", "of", "the", "contents", "of", "the", "datasets", "is", "given", "in", "Table", "1", ".", "The", "CRP", "dataset", "is", "taken", "from", "Stormo", "and", "Hartzell", "-LSB-", "19", "-RSB-", "who", ",", "in", "turn", ",", "derived", "it", "from", "Berg", "and", "von", "Hippel", "-LSB-", "3", "-RSB-", "and", "de", "Crombrugghe", "et", "al.", "-LSB-", "6", "-RSB-", ".", "It", "contains", "fragments", "from", "E.", "coli", "each", "believed", "to", "contain", "one", "or", "more", "CRP", "binding", "sites", ".", "The", "dataset", "contains", "binding", "sites", "which", "had", "been", "verified", "by", "DNase", "protection", "experiments", "when", "the", "dataset", "was", "compiled", ".", "Some", "of", "the", "fragments", "contain", "putative", "CRP", "binding", "sites", "which", "have", "been", "determined", "by", "sequence", "similarity", "to", "known", "binding", "sites", "only", ".", "Each", "fragment", "in", "the", "dataset", "contains", "105", "bases", "and", "the", "fragments", "are", "not", "aligned", "with", "each", "other", "in", "any", "particular", "way", ".", "The", "LexA", "dataset", "is", "taken", "from", "Table", "I", "in", "-LSB-", "11", "-RSB-", ".", "It", "contains", "16", "DNA", "fragments", "each", "believed", "to", "contain", "one", "or", "more", "LexA", "binding", "sites", ".", "The", "dataset", "contains", "binding", "sites", "which", "had", "been", "verified", "by", "DNase", "protection", "experiments", "when", "the", "dataset", "was", "compiled", ".", "An", "additional", "11", "putative", "LexA", "binding", "sites", ",", "as", "determined", "by", "sequence", "similarity", "to", "known", "binding", "sites", ",", "are", "also", "present", "in", "the", "dataset", ".", "Most", "of", "the", "fragments", "contain", "100", "bases", "preceding", "and", "99", "bases", "following", "the", "transcription", "start", "position", "of", "a", "gene", ".", "Three", "of", "the", "fragments", "are", "shorter", "because", "200", "bases", "flanking", "the", "start", "position", "of", "the", "gene", "were", "not", "available", ".", "One", "of", "the", "samples", "in", "the", "LexA", "dataset", "overlaps", "a", "sample", "in", "the", "CRP", "dataset", ".", "The", "overlap", "includes", "the", "known", "CRP", "site", ".", "The", "promoter", "dataset", "is", "taken", "from", "Cardon", "and", "Stormo", "-LSB-", "5", "-RSB-", ".", "It", "contains", "231", "fragments", "each", "believed", "to", "contain", "promoter", "regions", ".", "This", "dataset", "was", "originally", "compiled", "by", "Harley", "and", "Reynolds", "-LSB-", "9", "-RSB-", ",", "and", "contained", "288", "fragments", ",", "but", "Cardon", "and", "Stormo", "omitted", "a", "number", "of", "fragments", "that", "were", "from", "highly", "redundant", "sequences", "or", "known", "to", "be", "mutant", "promoters", ".", "All", "the", "fragments", "roughly", "comprise", "positions", "\\", "Gamma50", "to", "+10", "with", "respect", "to", "the", "start", "of", "transcription", ".", "8", "Previous", "work", "such", "as", "that", "of", "Harley", "and", "Reynolds", "-LSB-", "9", "-RSB-", "has", "shown", "that", "the", "promoter", "motif", "seems", "to", "consist", "of", "two", "highly", "conserved", "sub-motifs", "of", "width", "6", "each", ",", "separated", "by", "a", "variable-length", "spacer", ".", "The", "spacer", "is", "usually", "15", ",", "16", ",", "17", "or", "bases", "long", ".", "Although", "can", "not", "directly", "model", "such", "a", "variable-length", "motif", ",", "it", "can", "indirectly", "by", "discovering", "the", "two", "highly", "conserved", "ends", "of", "such", "motifs", ".", "3.1", ".", "MEME", "can", "discover", "two", "different", "binding", "site", "motifs", "was", "run", "for", "5", "passes", "on", "the", "CRP/LexA", "dataset", "with", "The", "value", "for", "W", "was", "chosen", "based", "on", "prior", "knowledge", "from", "the", "literature", "that", "this", "is", "the", "approximate", "size", "of", "both", "the", "CRP", "and", "LexA", "binding", "sites", "in", "DNA", "base-pairs", ".", "9", "The", "value", "for", "NSITES", "was", "chosen", "arbitrarily", "as", "half", "the", "number", "of", "sequences", "in", "the", "dataset", ",", "because", "there", "are", "roughly", "that", "many", "footprinted", "sites", "of", "each", "type", "in", "Table", "1", ".", "Overview", "of", "the", "contents", "of", "the", "datasets", ".", "dataset", "samples", "average", "length", "of", "samples", "proven", "CRP", "sites", "proven", "LexA", "sites", "CRP", "LexA", "CRP/LexA", "34", "150", "19", "11", "promoter", "231", "58", "NA", "NA", "the", "dataset", ".", "As", "mentioned", "previously", ",", "the", "exact", "value", "of", "NSITES", "is", "not", "critical", "for", "MEME", "to", "discover", "the", "motifs", ".", "The", "first", "pass", "of", "MEME", "yielded", "an", "excellent", "model", "for", "the", "LexA", "binding", "site", ".", "The", "second", "pass", "produced", "a", "model", "for", "the", "CRP", "binding", "site", ".", "Subsequent", "passes", "produced", "models", "of", "unknown", "significance", ".", "The", "results", "of", "MEME", "on", "CRP/LexA", "are", "summarized", "in", "Table", "2", ".", "Table", "2", ".", "The", "models", "found", "by", "each", "pass", "of", "MEME", "on", "the", "CRP/LexA", "dataset", "can", "be", "visually", "summarized", "by", "the", "consensus", "sequence", "derived", "from", "the", "ae", "matrix", "by", "choosing", "the", "letter", "with", "the", "highest", "probability", ".", "The", "values", "of", "information", "content", "and", "log", "-LRB-", "likelihood", "-RRB-", "give", "a", "qualitative", "idea", "of", "the", "statistical", "significance", "of", "the", "model", ".", "Higher", "values", "imply", "the", "model", "is", "more", "significant", ".", "The", "models", "found", "for", "LexA", "and", "CRP", "on", "passes", "1", "and", "2", "of", "MEME", "have", "considerably", "higher", "log", "-LRB-", "likelihood", "-RRB-", "and", "information", "content", "than", "the", "models", "found", "on", "later", "passes", ".", "Note", "that", "pass", "starting", "subsequence", "final", "consensus", "Imodel", "log", "-LRB-", "likelihood", "-RRB-", "The", "model", "produced", "by", "the", "first", "pass", "of", "MEME", "on", "CRP/LexA", "identified", "and", "characterized", "the", "LexA", "binding", "site", "extremely", "well", ".", "The", "quality", "of", "the", "model", "can", "be", "judged", "partly", "from", "the", "degree", "to", "which", "it", "correctly", "identifies", "the", "known", "LexA", "binding", "sites", "in", "the", "dataset", ".", "One", "way", "of", "using", "the", "model", "produced", "by", "MEME", "is", "to", "examine", "the", "values", "of", "z", "ij", "to", "see", "which", "positions", "in", "which", "samples", "in", "the", "dataset", "are", "given", "high", "probabilities", "of", "being", "the", "start", "of", "a", "motif", ".", "MEME", "prints", "the", "four", "highest", "values", "of", "z", "ij", "for", "each", "sample", "in", "the", "dataset", "after", "each", "pass", ".", "Table", "3", "shows", "the", "values", "of", "z", "ij", "after", "pass", "1", "of", "MEME", "for", "the", "known", "LexA", "binding", "sites", ".", "It", "can", "be", "easily", "seen", "that", "the", "model", "found", "in", "the", "first", "pass", "characterizes", "the", "LexA", "binding", "site", ".", "Furthermore", ",", "all", "other", "values", "of", "z", "ij", "were", "below", "0.17", ",", "so", "the", "model", "appears", "to", "be", "very", "specific", "for", "the", "LexA", "binding", "site", ".", "The", "consensus", "sequence", "for", "the", "model", "discovered", "in", "pass", "1", "of", "MEME", "on", "the", "CRP/LexA", "dataset", "also", "agrees", "exceedingly", "well", "with", "the", "LexA", "binding", "site", ".", "MEME", "prints", "the", "consensus", "-LRB-", "i.e.", ",", "the", "most", "probable", "letter", "for", "each", "position", "in", "the", "motif", "as", "determined", "from", "ae", "-RRB-", "after", "each", "pass", ".", "The", "consensus", "after", "pass", "1", "was", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "63", "which", "matches", "the", "consensus", "reported", "by", "-LSB-", "11", "-RSB-", "and", "is", "a", "perfect", "DNA", "palindrome", ".", "Table", "3", ".", "Values", "of", "z", "ij", "for", "the", "model", "found", "by", "MEME", "in", "pass", "1", "on", "the", "CRP/LexA", "dataset", "at", "the", "positions", "of", "the", "known", "LexA", "sites", ".", "Virtually", "all", "of", "the", "known", "sites", "have", "very", "high", "values", "of", "z", "ij", "compared", "to", "the", "rest", "of", "the", "positions", "in", "the", "samples", ".", "The", "table", "shows", "the", "positions", "of", "the", "known", "sites", "-LRB-", "site", "1", ",", "site", "2", "and", "site", "3", "-RRB-", "and", "the", "values", "of", "z", "ij", "of", "the", "model", "at", "those", "positions", ".", "All", "other", "positions", "have", "values", "of", "z", "ij", "below", "0.17", ".", "Although", "the", "site", "at", "position", "112", "in", "the", "colicin", "E1", "sequence", "has", "z", "ij", "value", "only", "0.05", ",", "this", "is", "one", "of", "the", "four", "highest", "z", "ij", "values", "for", "this", "sequence", ".", "No", "proven", "sites", "are", "known", "for", "himA", "and", "uvrC", "and", "z", "ij", "for", "all", "positions", "in", "those", "samples", "was", "very", "low", ",", "less", "than", "0:0001", ".", "sample", "site", "cloacin", "DF13", "97", "a", "0.998684", "colicin", "E1", "97", "0.948441", "112", "0.051543", "colicin", "Ia", "99", "a", "0.998709", "colicin", "Ib", "99", "a", "0.990472", "recA", "71", "0.999987", "recN", "71", "0.999988", "93", "0.865704", "111", "a", "0.134281", "sulA", "85", "a", "0.999990", "umuDC", "91", "0.999931", "uvrA", "uvrB", "71", "0.999972", "uvrD", "102", "0.998539", "colicin", "A", "34", "a", "0.683563", "48", "a", "0.314723", "mucAB", "himA", "uvrC", "a", "Indicates", "site", "known", "only", "by", "sequence", "similarity", "to", "known", "sites", ".", "Another", "way", "of", "seeing", "how", "well", "the", "model", "that", "was", "learned", "during", "pass", "1", "of", "MEME", "characterizes", "the", "LexA", "binding", "sites", "is", "to", "plot", "the", "information", "content", "score", "of", "each", "subsequence", "of", "the", "input", "data", ".", "Figure", "1", "shows", "the", "information", "content", "scores", "of", "both", "the", "CRP", "and", "LexA", "samples", "under", "the", "first", "pass", "model", ".", "-LRB-", "All", "scores", "below", "zero", "have", "been", "set", "to", "zero", "in", "the", "figure", "to", "make", "it", "easier", "to", "interpret", ".", "-RRB-", "It", "can", "easily", "be", "seen", "that", "the", "model", "gives", "the", "known", "binding", "sites", "high", "scores", "while", "most", "other", "subsequences", "receive", "low", "scores", ".", "On", "the", "next", "pass", ",", "MEME", "discovers", "the", "CRP", "motif", ".", "The", "consensus", "sequence", "it", "reports", "for", "pass", "2", "is", "TTTTTTGATCGGTTTCACAC", ",", "which", "agrees", "well", "with", "the", "consensus", "found", "with", "one-per", "model", "and", "reported", "in", "-LSB-", "14", "-RSB-", ".", "More", "significantly", ",", "the", "model", "characterizes", "the", "CRP", "motif", "well", ",", "judging", "from", "the", "values", "of", "z", "ij", "for", "the", "various", "positions", "in", "the", "samples", "in", "the", "dataset", ".", "Table", "4", "shows", "the", "values", "of", "z", "ij", "found", "during", "pass", "2", "on", "the", "CRP/LexA", "dataset", ".", "According", "to", "-LSB-", "14", "-RSB-", ",", "the", "CRP", "dataset", "contains", "24", "known", "CRP", "binding", "sites", ",", "18", "of", "which", "had", "been", "verified", "by", "protection", "experiments", ".", "The", "value", "of", "z", "ij", "for", "eight", "of", "these", "is", "above", "0.99", "in", "the", "model", ",", "while", "eleven", "have", "z", "ij", "values", "above", "0.1", ".", "It", "turns", "out", "that", "three", "of", "the", "samples", "from", "the", "LexA", "dataset", "also", "contain", "score", "base", "number", "information", "content", "scores", "of", "input", "subsequences", "known", "LexA", "sites", "Figure", "1", ".", "The", "information", "content", "score", "of", "each", "subsequence", "of", "the", "CRP/LexA", "dataset", "using", "the", "specificity", "matrix", "found", "on", "pass", "1", "of", "MEME", ".", "The", "CRP", "samples", "are", "the", "short", "curves", "at", "the", "top", ",", "while", "the", "LexA", "samples", "are", "the", "long", "curves", "at", "the", "bottom", ".", "Vertical", "scale", "is", "such", "that", "highest", "peak", "is", "24.3", "bits", ".", "All", "values", "below", "zero", "have", "been", "set", "to", "zero", ".", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "CRP", "binding", "sites", ".", "The", "sample", "labeled", "colicin", "E1", "in", "the", "LexA", "dataset", "is", "actually", "from", "the", "same", "sequence", "and", "overlaps", "the", "sample", "labeled", "cole", "1", "in", "the", "CRP", "dataset", ".", "The", "overlap", "contains", "the", "CRP", "motif", ".", "LexA", "samples", "colicin", "Ia", "and", "colicin", "Ib", "also", "appear", "to", "contain", "CRP", "sites", "which", "are", "virtually", "identical", "to", "the", "colicin", "E1/cole", "1", "CRP", "site", ".", "For", "these", "sites", "z", "ij", "is", "over", "0:999", ",", "which", "is", "extremely", "high", ".", "Because", "of", "the", "overrepresentation", "of", "this", "particular", "``", "version", "''", "of", "the", "CRP", "binding", "site", ",", "the", "model", "learned", "during", "pass", "2", "seems", "to", "be", "biased", "towards", "representing", "the", "version", "of", "the", "binding", "site", "present", "in", "the", "colicin", "genes", ".", "This", "may", "explain", "why", "the", "model", "does", "not", "fit", "all", "of", "the", "CRP", "sites", "equally", "well", ".", "Table", "4", ".", "Values", "of", "z", "ij", "for", "the", "model", "found", "by", "MEME", "in", "pass", "2", "on", "the", "CRP/LexA", "dataset", "at", "the", "positions", "of", "the", "known", "CRP", "sites", ".", "Of", "24", "known", "CRP", "sites", ",", "eight", "have", "very", "high", "values", "of", "z", "ij", ",", "and", "twelve", "more", "-LRB-", "those", "not", "stated", "as", "below", "some", "bound", "-RRB-", "have", "values", "of", "z", "ij", "among", "the", "top", "four", "z", "ij", "values", "for", "the", "given", "sequence", ".", "The", "three", "last", "three", "sites", "-LRB-", "labeled", "b", ",", "c", ",", "and", "d", "-RRB-", "are", "actually", "from", "the", "LexA", "dataset", ",", "not", "the", "CRP", "dataset", ".", "The", "sequence", "named", "colicin", "E1", "actually", "is", "from", "the", "same", "gene", "as", "cole", "1", "and", "overlaps", "it", "in", "the", "CRP", "site", "region", ".", "The", "site", "in", "colicin", "Ia", "may", "not", "have", "been", "reported", "previously", ",", "and", "the", "colicin", "Ib", "site", "was", "previously", "reported", "as", "being", "a", "LexA", "site", ".", "sample", "site", "ecocya", "50", "0.006001", "ecodeop", "7", "a", "0.999845", "ecogale", "42", "0.497545", "ecoilvbpr", "ecomale", "14", "a", "0.997871", "ecomalk", "29", "a", "0.00129", "61", "0.035443", "ecoompa", "48", "0.177722", "ecotnaa", "71", "a", "0.999222", "pbr-p4", "53", "0.004511", "tdc", "78", "a", "0.506702", "colicin", "E1", "27", "b", "0.999186", "colicin", "Ia", "13", "c", "0.999692", "colicin", "Ib", "13", "d", "0.999333", "a", "Indicates", "site", "known", "only", "by", "sequence", "similarity", "to", "known", "sites", ".", "b", "This", "LexA", "dataset", "sample", "overlaps", "CRP", "sample", "cole", "1", ".", "c", "This", "site", "may", "not", "have", "been", "reported", "previously", ".", "d", "This", "apparent", "CRP", "site", "may", "have", "been", "confused", "with", "a", "LexA", "site", "by", "Varley", "and", "Boulnois", "-LSB-", "21", "-RSB-", "and", "Hertz", "et", "al.", "-LSB-", "11", "-RSB-", ".", "Figure", "2", "shows", "the", "information", "content", "scores", "of", "the", "CRP/LexA", "dataset", "computed", "with", "the", "specificity", "matrix", "learned", "during", "pass", "2", "of", "MEME", ".", "Although", "the", "score", "base", "number", "information", "content", "scores", "of", "input", "subsequences", "known", "CRP", "sites", "Figure", "2", ".", "The", "information", "content", "score", "of", "each", "subsequence", "of", "the", "CRP/LexA", "dataset", "using", "the", "specificity", "matrix", "found", "on", "pass", "2", "of", "MEME", ".", "The", "CRP", "samples", "are", "the", "short", "curves", "at", "the", "top", ".", "The", "strong", "match", "of", "the", "model", "to", "three", "colicin", "samples", "in", "the", "LexA", "dataset", "is", "seen", "in", "the", "second", ",", "third", ",", "and", "fourth", "long", "curves", ".", "The", "vertical", "scale", "is", "such", "that", "highest", "peak", "is", "18.92", "bits", ".", "All", "values", "below", "zero", "have", "been", "set", "to", "zero", ".", "model", "is", "not", "as", "well", "defined", "as", "that", "of", "pass", "1", ",", "it", "clearly", "matches", "the", "known", "CRP", "sites", "to", "a", "large", "degree", ".", "3.2", ".", "MEME", "can", "discover", "two", "parts", "of", "a", "single", "binding", "site", "was", "run", "for", "5", "passes", "on", "the", "promoter", "dataset", "with", "231", ".", "The", "value", "for", "W", "was", "chosen", "based", "on", "prior", "knowledge", "derived", "from", "the", "literature", "that", "this", "is", "the", "approximate", "size", "of", "both", "the", "\\", "Gamma10", "and", "\\", "Gamma35", "regions", "of", "promoters", ".", "The", "value", "of", "NSITES", "was", "chosen", "based", "on", "the", "assumption", "that", "each", "sample", "in", "the", "dataset", "contains", "a", "promoter", ".", "The", "first", "pass", "of", "MEME", "yielded", "a", "model", "whose", "consensus", "was", "TATAAT", ",", "which", "is", "the", "known", "\\", "Gamma10", "region", "consensus", ".", "The", "second", "pass", "produced", "a", "model", "whose", "consensus", "was", "TTTACA", ",", "which", "is", "very", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "67", "close", "to", "the", "conventional", "\\", "Gamma35", "region", "consensus", ",", "TTGACA", ".", "Further", "passes", "produced", "models", "of", "unknown", "significance", ".", "The", "results", "of", "MEME", "on", "the", "promoter", "dataset", "are", "summarized", "in", "Table", "5", ".", "Table", "5", ".", "The", "models", "found", "on", "each", "pass", "of", "MEME", "on", "the", "promoter", "dataset", "are", "summarized", "as", "consensus", "sequences", ".", "The", "\\", "Gamma10", "and", "\\", "Gamma35", "region", "models", "were", "found", "on", "the", "first", "two", "passes", "of", "MEME", "and", "have", "much", "higher", "log", "-LRB-", "likelihood", "-RRB-", "and", "information", "content", "than", "the", "other", "models", "found", ".", "pass", "starting", "subsequence", "final", "consensus", "I", "model", "log", "-LRB-", "likelihood", "-RRB-", "The", "models", "learned", "on", "the", "first", "two", "passes", "of", "MEME", "on", "the", "promoter", "dataset", "are", "applied", "to", "the", "first", "thirty", "samples", "in", "the", "dataset", "and", "the", "information", "content", "score", "of", "each", "subsequence", "in", "the", "dataset", "is", "plotted", "in", "Figures", "3", "and", "4", ".", "The", "base", "corresponding", "to", "the", "start", "of", "transcription", "of", "each", "sample", "is", "at", "position", "50", "on", "the", "horizontal", "axis", "of", "each", "plot", ".", "A", "column", "of", "peaks", "at", "position", "37", "in", "Figure", "3", "shows", "that", "the", "model", "identifies", "the", "\\", "Gamma10", "consensus", "region", "of", "the", "promoters", ".", "A", "column", "of", "peaks", "at", "position", "15", "of", "Figure", "4", "confirms", "that", "the", "second", "model", "identifies", "the", "\\", "Gamma35", "region", "of", "the", "promoters", ",", "even", "though", "its", "consensus", "sequence", "is", "slightly", "different", "from", "the", "generally", "accepted", "one", ".", "4", ".", "Robustness", "of", "the", "MEME", "algorithm", "The", "CRP/LexA", "dataset", "and", "the", "promoter", "dataset", "were", "also", "used", "to", "test", "the", "usefulness", "of", "the", "various", "separate", "ideas", "entering", "into", "the", "design", "of", "the", "MEME", "algorithm", ",", "and", "to", "evaluate", "the", "sensitivity", "of", "the", "algorithm", "to", "the", "particular", "values", "chosen", "for", "several", "parameters", ".", "Overall", ",", "the", "algorithm", "appears", "to", "be", "gratifyingly", "robust", ".", "Except", "where", "noted", ",", "MEME", "was", "run", "using", "the", "n-per", "model", ".", "4.1", ".", "Subsequence-derived", "starting", "points", "work", "well", "with", "EM", "The", "idea", "of", "running", "EM", "for", "only", "one", "iteration", "from", "starting", "points", "derived", "from", "each", "possible", "subsequence", "of", "the", "input", "dataset", "was", "tested", ".", "As", "the", "following", "experiments", "demonstrate", ",", "this", "method", "appears", "to", "work", "well", "at", "predicting", "good", "starting", "points", "from", "which", "to", "run", "EM", "to", "convergence", ".", "The", "experiments", "consisted", "of", "running", "EM", "for", "one", "iteration", "from", "each", "possible", "subsequence-derived", "starting", "point", "on", "the", "two", "datasets", ".", "The", "likelihood", "of", "each", "of", "the", "models", "thus", "obtained", "was", "plotted", "against", "the", "starting", "position", "of", "the", "subsequence", "from", "which", "the", "starting", "point", "was", "derived", ".", "Thus", ",", "one", "point", "was", "plotted", "for", "each", "position", "in", "each", "sample", "in", "the", "dataset", ".", "It", "68", "TIMOTHY", "L.", "BAILEY", "AND", "CHARLES", "ELKAN", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "69", "log", "-LRB-", "likelihood", "-RRB-", "Residue", "Number", "log", "-LRB-", "likelihood", "-RRB-", "of", "models", "after", "one", "EM", "iteration", "known", "CRP/LexA", "sites", "Figure", "5", ".", "log", "-LRB-", "likelihood", "-RRB-", "after", "one", "iteration", "of", "EM", "from", "starting", "points", "derived", "from", "each", "possible", "subsequence", "in", "the", "CRP/LexA", "dataset", ".", "EM", "appears", "to", "converge", "quickly", "from", "starting", "points", "derived", "from", "subsequences", "at", "or", "near", "the", "LexA", "binding", "sites", ".", "The", "short", "curves", "at", "the", "top", "are", "the", "CRP", "samples", ",", "while", "the", "longer", "curves", "are", "the", "LexA", "samples", ".", "The", "vertical", "axis", "for", "each", "curve", "is", "scaled", "such", "that", "the", "highest", "peaks", "are", "at", "-481.6", "and", "the", "lowest", "valleys", "are", "at", "-642.5", ".", "was", "hoped", "that", "some", "starting", "points", "would", "yield", "models", "with", "significantly", "higher", "likelihood", "even", "after", "just", "one", "iteration", ".", "Then", "EM", "could", "be", "run", "to", "convergence", "from", "those", "starting", "points", "and", "the", "most", "likely", "model", "thus", "obtained", "could", "be", "selected", "as", "the", "output", "of", "MEME", ".", "In", "the", "first", "experiment", ",", "the", "combined", "CRP/LexA", "dataset", "was", "used", ".", "The", "MEME", "algorithm", "was", "run", "with", "only", "one", "iteration", "of", "EM", "from", "each", "possible", "starting", "point", ".", "When", "the", "log", "-LRB-", "likelihood", "-RRB-", "values", "of", "the", "derived", "models", "are", "plotted", "against", "the", "position", "on", "the", "sequence", "from", "which", "the", "starting", "point", "was", "derived", ",", "it", "can", "be", "seen", "in", "Figure", "5", "that", "large", "peaks", "in", "the", "likelihood", "function", "were", "occurring", "in", "most", "of", "the", "LexA", "samples", ".", "-LRB-", "If", "the", "information", "content", "scores", "were", "plotted", ",", "the", "graph", "would", "have", "a", "very", "similar", "appearance", ".", "Since", "EM", "maximizes", "the", "likelihood", "of", "the", "model", "and", "not", "its", "information", "content", ",", "log", "likelihood", "was", "chosen", "as", "the", "criterion", "for", "choosing", "starting", "points", ".", "Information", "content", "could", "also", "be", "used", ",", "with", "similar", "results", ".", "-RRB-", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "71", "log", "-LRB-", "likelihood", "-RRB-", "base", "number", "performance", "of", "starting", "points", "for", "sample", "recN", "pass", "1", "known", "LexA", "sites", "Figure", "6", ".", "EM", "finds", "models", "of", "high", "likelihood", "when", "run", "for", "one", "iteration", "on", "the", "CRP/LexA", "dataset", "from", "starting", "points", "derived", "from", "subsequences", "of", "sample", "recN", ".", "The", "starting", "points", "correspond", "well", "with", "the", "known", "LexA", "binding", "sites", ",", "whose", "left", "ends", "are", "indicated", "on", "the", "horizontal", "axis", ".", "Further", "investigation", "showed", "that", "the", "peaks", "tended", "to", "occur", "at", "the", "positions", "of", "the", "known", "LexA", "binding", "sites", ".", "Figure", "6", "shows", "an", "expanded", "view", "of", "the", "curve", "for", "the", "sample", "from", "recN", ".", "The", "recN", "sample", "contains", "three", "LexA", "binding", "sites", "whose", "left", "ends", "are", "marked", "on", "the", "horizontal", "axis", "of", "the", "figure", ".", "The", "peaks", "in", "the", "curve", "occur", "at", "or", "near", "these", "positions", ".", "The", "same", "phenomenon", "was", "observed", "for", "the", "other", "LexA", "samples", ",", "except", "for", "himA", "and", "uvrC", "which", "previous", "researchers", "-LSB-", "11", "-RSB-", "have", "noted", "do", "not", "match", "the", "LexA", "consensus", "4.2", ".", "``", "Erasing", "''", "one", "motif", "is", "necessary", "to", "find", "another", "On", "closer", "inspection", "of", "the", "plots", ",", "peaks", "could", "also", "be", "seen", "in", "the", "curves", "from", "the", "CRP", "samples", "at", "positions", "corresponding", "to", "known", "CRP", "binding", "sites", ".", "Figure", "7", "shows", "the", "expanded", "view", "for", "the", "CRP", "sample", "tnaa", ".", "As", "can", "be", "seen", "in", "the", "figure", ",", "it", "is", "difficult", "to", "distinguish", "the", "peaks", "generated", "by", "starting", "points", "derived", "from", "72", "TIMOTHY", "L.", "BAILEY", "AND", "CHARLES", "ELKAN", "log", "-LRB-", "likelihood", "-RRB-", "base", "number", "performance", "of", "starting", "points", "for", "sample", "ecotnaa", "Pass", "1", "known", "CRP", "sites", "Figure", "7", ".", "The", "log", "-LRB-", "likelihood", "-RRB-", "of", "the", "model", "after", "1", "iteration", "of", "EM", "in", "MEME", "varies", "strongly", "with", "the", "starting", "point", ".", "The", "plot", "shows", "the", "log", "-LRB-", "likelihood", "-RRB-", "of", "the", "model", "after", "one", "iteration", "of", "EM", "on", "dataset", "CRP/LexA", "run", "from", "the", "starting", "points", "generated", "from", "the", "subsequences", "in", "the", "sample", "labeled", "``", "tnaa", "''", ".", "subsequences", "at", "the", "CRP", "binding", "sites", "from", "other", "peaks", "which", "do", "not", "correspond", "to", "any", "known", "sites", ".", "It", "appears", "that", "the", "other", "peaks", "are", "due", "to", "EM", "starting", "to", "converge", "to", "a", "model", "related", "to", "the", "LexA", "motif", ".", "Even", "a", "bad", "model", "of", "the", "highly", "conserved", "LexA", "motifs", "may", "have", "log", "-LRB-", "likelihood", "-RRB-", "similar", "to", "the", "best", "model", "of", "the", "CRP", "binding", "sites", ",", "due", "to", "the", "fact", "that", "the", "LexA", "binding", "sites", "are", "much", "more", "highly", "conserved", "than", "the", "CRP", "binding", "sites", ".", "The", "highest", "peaks", "produced", "by", "subsequences", "from", "the", "CRP", "samples", "were", "much", "lower", "than", "the", "highest", "peaks", "produced", "by", "the", "LexA", "samples", ".", "Also", ",", "no", "CRP", "sample", "produced", "a", "peak", "at", "a", "position", "corresponding", "to", "a", "CRP", "binding", "site", "that", "was", "clearly", "higher", "than", "all", "peaks", "produced", "from", "other", "subsequences", "of", "the", "CRP", "samples", ".", "This", "shows", "the", "necessity", "of", "somehow", "eliminating", "the", "LexA", "binding", "sites", "from", "the", "data", "in", "order", "to", "be", "able", "to", "discover", "the", "best", "starting", "points", "from", "which", "to", "run", "EM", "to", "learn", "a", "model", "for", "the", "CRP", "binding", "sites", ".", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "73", "4.3", ".", "The", "expected", "number", "of", "motif", "appearances", "is", "not", "critical", "If", "the", "choice", "of", "NSITES", "were", "critical", "to", "the", "ability", "of", "MEME", "using", "the", "n-per", "model", "to", "find", "one", "or", "more", "distinct", "motifs", "or", "parts", "of", "motifs", "in", "a", "dataset", ",", "it", "would", "be", "necessary", "to", "know", "in", "advance", "how", "many", "appearances", "of", "each", "motif", "were", "in", "the", "dataset", ".", "This", "would", "restrict", "the", "usefulness", "of", "MEME", "in", "discovering", "completely", "new", "motifs", "from", "sequence", "data", "alone", ".", "Fortunately", ",", "MEME", "discovers", "models", "for", "motifs", "with", "NSITES", "set", "to", "a", "wide", "range", "of", "values", ".", "So", "running", "MEME", "with", "just", "a", "few", "values", "of", "NSITES", "will", "probably", "suffice", "to", "find", "most", "motifs", "-LRB-", "if", "any", "-RRB-", "which", "are", "represented", "in", "a", "dataset", ".", "was", "run", "on", "the", "CRP/LexA", "dataset", "with", "various", "values", "of", "NSITES", "and", "all", "other", "parameters", "fixed", ".", "The", "models", "found", "by", "MEME", "on", "each", "pass", "were", "examined", "to", "see", "if", "they", "fit", "the", "known", "consensus", "sequences", "for", "LexA", "and", "CRP", ".", "Table", "6", "shows", "the", "passes", "of", "MEME", "on", "which", "models", "for", "LexA", "and", "CRP", "motifs", "were", "discovered", "and", "the", "information", "content", "and", "log", "-LRB-", "likelihood", "-RRB-", "of", "the", "models", ".", "MEME", "always", "finds", "a", "model", "for", "the", "LexA", "motif", "on", "the", "first", "pass", ".", "With", "low", "NSITES", ",", "it", "finds", "LexA", "more", "than", "once", ",", "due", "presumably", "to", "the", "fact", "the", "LexA", "binding", "sites", "do", "not", "get", "completely", "erased", ".", "-LRB-", "MEME", "effectively", "erases", "at", "most", "NSITES", "occurrences", "of", "a", "motif", "after", "each", "pass", ",", "so", "if", "5", "and", "there", "are", "fifteen", "LexA", "binding", "sites", ",", "there", "are", "still", "enough", "left", "for", "pass", "2", "to", "find", "another", "model", "of", "the", "LexA", "motif", ".", "-RRB-", "MEME", "found", "a", "model", "of", "the", "CRP", "motif", "within", "four", "passes", "for", "all", "values", "of", "NSITES", "tried", "except", "for", "5", ".", "Usually", ",", "CRP", "was", "the", "second", "model", "found", ".", "While", "the", "values", "of", "information", "content", "and", "log", "-LRB-", "likelihood", "-RRB-", "of", "the", "LexA", "models", "were", "always", "much", "higher", "than", "those", "of", "all", "other", "models", "found", "by", "MEME", ",", "this", "was", "not", "always", "true", "for", "the", "CRP", "models", ".", "Only", "when", "NSITES", "was", "close", "to", "the", "actual", "number", "of", "known", "binding", "sites", "in", "the", "dataset", "was", "the", "information", "content", "and", "log", "-LRB-", "likelihood", "-RRB-", "of", "the", "CRP", "model", "much", "higher", "than", "for", "the", "other", "models", "-LRB-", "of", "unknown", "biological", "significance", "-RRB-", "found", "by", "MEME", ".", "4.4", ".", "The", "n-per", "model", "is", "less", "sensitive", "to", "noise", "than", "the", "one-per", "model", "The", "removal", "of", "the", "one-motif-appearance-per-sequence", "assumption", "was", "intended", ",", "among", "other", "things", ",", "to", "make", "the", "n-per", "model", "less", "sensitive", "to", "noise", "than", "one-per", "model", ".", "For", "example", ",", "if", "it", "is", "suspected", "that", "one", "or", "more", "of", "the", "sequences", "in", "a", "dataset", "is", "noise", "-LRB-", "i.e.", ",", "does", "not", "contain", "an", "appearance", "of", "a", "motif", "-RRB-", ",", "NSITES", "can", "be", "set", "to", "a", "value", "which", "is", "less", "than", "than", "the", "number", "of", "sequences", "in", "the", "dataset", ".", "If", "correctly", "locates", "just", "the", "appearances", "of", "the", "motif", ",", "the", "model", "found", "will", "have", "higher", "log", "-LRB-", "likelihood", "-RRB-", "than", "that", "found", "by", "using", "the", "one-per", "model", "which", "is", "forced", "to", "choose", "an", "appearance", "in", "every", "sequence", "in", "the", "dataset", ".", "To", "test", "this", "assumption", ",", "MEME", "was", "run", "with", "both", "the", "one-per", "model", "and", "the", "n-per", "model", "on", "datasets", "which", "contained", "varying", "numbers", "of", "randomly", "generated", "sequences", "-LRB-", "with", "NSITES", "set", "to", "the", "same", ",", "fixed", "value", "each", "time", "-RRB-", ".", "The", "random", "sequences", "had", "the", "same", "letter", "frequencies", "as", "the", "dataset", "as", "a", "whole", ",", "and", "they", "were", "the", "same", "length", ".", "The", "datasets", "used", "were", "CRP", "and", "LexA", "with", "various", "numbers", "of", "random", "sequences", "74", "TIMOTHY", "L.", "BAILEY", "AND", "CHARLES", "ELKAN", "Table", "6", ".", "MEME", "finds", "models", "of", "the", "LexA", "and", "CRP", "binding", "sites", "when", "NSITES", "has", "values", "between", "10", "and", "35", ".", "When", "NSITES", "is", "above", "10", ",", "LexA", "and", "CRP", "are", "usually", "found", "on", "the", "first", "two", "passes", ".", "Only", "with", "fail", "to", "find", "CRP", "on", "any", "of", "the", "first", "five", "passes", ".", "NSITES", "pass", "consensus", "Imodel", "log", "-LRB-", "likelihood", "-RRB-", "motif", "added", ".", "In", "both", "cases", ",", "MEME", "with", "the", "n-per", "model", "learned", "the", "correct", "concept", "on", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "75", "the", "first", "pass", "from", "datasets", "with", "more", "random", "sequences", "than", "the", "MEME", "using", "the", "one-per", "model", "could", "tolerate", ".", "MEME", "with", "the", "n-per", "model", "learned", "a", "model", "for", "the", "CRP", "binding", "site", "with", "sequences", "added", "to", "the", "sequences", "of", "the", "CRP", "dataset", ".", "-LRB-", "It", "learned", "the", "model", "even", "with", "50", "random", "sequences", ",", "although", "then", "it", "learned", "it", "on", "the", "second", "pass", ".", "-RRB-", "MEME", "with", "the", "one-per", "model", "was", "not", "able", "to", "learn", "a", "LexA", "binding", "site", "model", "with", "more", "than", "60", "random", "samples", "added", "to", "the", "dataset", ",", "and", "it", "learned", "an", "``", "off-center", "''", "model", "when", "more", "than", "20", "random", "samples", "were", "in", "the", "dataset", ".", "MEME", "with", "the", "n-per", "model", ",", "however", ",", "learned", "the", "correct", "LexA", "model", "even", "with", "80", "random", "samples", "added", "to", "the", "dataset", ".", "Figure", "8", "shows", "the", "information", "content", "of", "the", "CRP", "and", "LexA", "models", "learned", "by", "MEME", "with", "the", "n-per", "model", "and", "the", "one-per", "model", "on", "the", "first", "pass", "from", "datasets", "with", "various", "numbers", "of", "random", "sequences", "added", ".", "The", "CRP", "models", "learned", "with", "the", "n-per", "model", "also", "consistently", "had", "higher", "information", "content", "than", "those", "learned", "with", "the", "one-per", "model", ".", "This", "was", "true", "even", "for", "the", "model", "learned", "with", "no", "random", "sequences", "added", "to", "the", "dataset", ".", "Presumably", ",", "this", "is", "indicative", "of", "the", "fact", "that", "the", "n-per", "model", "is", "taking", "advantage", "of", "the", "sequences", "with", "multiple", "appearances", "of", "the", "CRP", "site", ".", "The", "models", "learned", "with", "the", "n-per", "model", "for", "LexA", "were", "extremely", "robust", "to", "the", "number", "of", "random", "samples", "added", "to", "the", "dataset", ".", "There", "was", "almost", "no", "decrease", "in", "the", "information", "content", "no", "matter", "how", "many", "random", "samples", "were", "present", ".", "The", "one-per", "model", ",", "on", "the", "other", "hand", ",", "found", "models", "with", "lower", "information", "content", "when", "more", "random", "samples", "were", "in", "the", "dataset", ".", "It", "is", "clear", "from", "Figure", "8", "that", "MEME", "using", "the", "n-per", "model", "will", "find", "a", "set", "of", "highly", "conserved", "binding", "sites", "even", "in", "datasets", "where", "the", "vast", "majority", "of", "the", "sequences", "do", "not", "contain", "it", ".", "The", "one-per", "model", "suffers", "from", "the", "fact", "that", "it", "must", "always", "average", "in", "one", "supposed", "motif", "appearance", "from", "each", "sample", ".", "MEME", "with", "the", "n", "-", "per", "model", "is", "thus", "able", "to", "deal", "with", "a", "particular", "type", "of", "noise-samples", "containing", "no", "motif", "appearances-if", "a", "good", "estimate", "of", "the", "true", "number", "of", "motif", "appearances", "-LRB-", "NSITES", "-RRB-", "is", "available", ".", "5", ".", "Discussion", "The", "MEME", "algorithm", "demonstrates", "the", "power", "of", "several", "new", "ideas", ".", "Subsequence", "-", "derived", "starting", "points", "have", "been", "shown", "to", "be", "a", "powerful", "way", "of", "selecting", "starting", "points", "for", "EM", ",", "and", "may", "be", "useful", "with", "other", "methods", "as", "well", ".", "Since", "EM", "tends", "to", "converge", "quickly", "from", "good", "starting", "points", ",", "MEME", "saves", "a", "great", "deal", "of", "time", "by", "only", "running", "EM", "for", "one", "iteration", "from", "each", "starting", "point", "and", "greedily", "selecting", "the", "best", "starting", "point", "based", "on", "the", "likelihood", "of", "the", "learned", "model", ".", "The", "modifications", "to", "the", "EM", "algorithm", "which", "allow", "MEME", "to", "drop", "the", "assumption", "that", "each", "sequence", "contains", "exactly", "one", "appearance", "of", "a", "motif", "and", "fit", "the", "n-per", "model", "to", "a", "dataset", "have", "been", "shown", "to", "give", "MEME", "the", "ability", "to", "discover", "motifs", "in", "datasets", "which", "contain", "many", "sequences", "which", "do", "not", "contain", "the", "motif", ".", "Finally", ",", "the", "probabilistic", "weighting", "scheme", "used", "by", "MEME", "to", "erase", "appearances", "of", "the", "motif", "found", "after", "each", "pass", "was", "demonstrated", "to", "work", "well", "at", "finding", "multiple", "different", "motifs", "as", "well", "as", "motifs", "with", "multiple", "parts", ".", "76", "TIMOTHY", "L.", "BAILEY", "AND", "CHARLES", "information", "content", "of", "model", "found", "on", "first", "pass", "number", "of", "random", "sequences", "added", "to", "dataset", "sensitivity", "of", "one-per", "and", "n-per", "models", "to", "irrelevant", "sequences", "CRP", "model", "found", "with", "one-per", "model", "CRP", "model", "found", "by", "n-per", "model", "LexA", "model", "found", "with", "one-per", "model", "LexA", "model", "found", "with", "n-per", "model", "Figure", "8", ".", "The", "information", "content", "of", "the", "LexA", "and", "CRP", "models", "found", "on", "the", "first", "pass", "of", "MEME", "with", "the", "n-per", "model", "and", "the", "one-per", "model", ",", "run", "separately", "on", "the", "CRP", "and", "LexA", "datasets", "with", "different", "numbers", "of", "random", "examples", "added", ".", "The", "comparative", "advantage", "of", "the", "n-per", "model", "is", "clear", ".", "Especially", "with", "motifs", "whose", "occurrences", "are", "highly", "conserved", ",", "the", "n-per", "model", "finds", "very", "good", "models", "even", "when", "many", "sequences", "not", "containing", "the", "motif", "are", "present", ".", "MEME", "was", "run", "with", "set", "to", "15", "for", "the", "n-per", "model", ".", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "77", "The", "MEME", "algorithm", "should", "prove", "useful", "in", "analyzing", "biological", "sequence", "data", ".", "It", "is", "a", "robust", "tool", "for", "discovering", "new", "motifs", "from", "sequence", "data", "alone", "when", "little", "or", "no", "prior", "knowledge", "is", "available", ".", "When", "MEME", "is", "used", "to", "discover", "motifs", "from", "sequence", "data", "alone", ",", "it", "is", "performing", "unsupervised", "learning", ".", "Effectively", ",", "MEME", "finds", "clusters", "of", "similar", "subsequences", "in", "a", "set", "of", "sequences", ".", "Some", "measure", "of", "the", "unlikeliness", "of", "a", "cluster", ",", "information", "content", "of", "the", "model", "for", "example", ",", "can", "then", "be", "used", "to", "decide", "if", "other", "methods", "-LRB-", "i.e.", ",", "wetlab", "experimentation", "-RRB-", "should", "be", "applied", "to", "verify", "that", "the", "sites", "which", "match", "the", "model", "actually", "are", "biologically", "related", ".", "Plots", "of", "information", "content", "scores", "of", "various", "positions", "of", "the", "sequences", "in", "the", "dataset", "such", "as", "in", "Figure", "1", "and", "Figure", "2", "can", "also", "be", "helpful", "to", "a", "biologist", "for", "discovering", "which", "clusters", "are", "significant", "and", "which", "may", "be", "statistical", "artifacts", ".", "When", "MEME", "is", "used", "with", "a", "dataset", "of", "sequences", "each", "of", "which", "is", "known", "to", "contain", "a", "motif", ",", "such", "as", "the", "promoter", "dataset", ",", "it", "is", "performing", "supervised", "learning", ".", "Because", "the", "models", "MEME", "learns", "do", "not", "allow", "a", "motif", "to", "have", "variable", "length", "-LRB-", "i.e.", ",", "no", "insertions", "or", "deletions", "are", "allowed", "-RRB-", ",", "MEME", "is", "limited", "to", "learning", "a", "restricted", "class", "of", "motifs", ".", "It", "may", "be", "possible", "to", "use", "the", "multiple", "models", "learned", "by", "MEME", "on", "passes", "through", "the", "dataset", "as", "features", "for", "another", "learning", "algorithm", ".", "For", "example", ",", "a", "decision", "tree", "learner", "such", "as", "ID3", "-LSB-", "15", "-RSB-", "or", "CART", "-LSB-", "4", "-RSB-", "could", "use", "the", "models", "learned", "by", "MEME", "on", "the", "promoter", "dataset", "as", "features", "to", "learn", "a", "classification", "rule", "for", "E.", "coli", "promoters", ".", "Since", "the", "first", "two", "passes", "of", "MEME", "found", "models", "for", "the", "\\", "Gamma10", "and", "\\", "Gamma35", "regions", "of", "the", "promoter", ",", "this", "approach", "should", "have", "a", "high", "chance", "of", "success", ".", "Another", "promising", "idea", "is", "to", "use", "the", "short", "motifs", "learned", "by", "MEME", "to", "construct", "starting", "points", "for", "hidden", "Markov", "models", ".", "The", "innovations", "added", "to", "the", "EM", "algorithm", "in", "MEME", "can", "also", "be", "used", "with", "hidden", "Markov", "models", "-LRB-", "HMMs", "-RRB-", "-LSB-", "10", "-RSB-", ".", "The", "idea", "of", "using", "subsequence-derived", "starting", "points", "may", "be", "adaptable", "for", "use", "with", "HMMs", ".", "The", "method", "used", "by", "MEME", "for", "probabilistically", "erasing", "sites", "after", "each", "pass", "would", "certainly", "be", "easy", "to", "add", "to", "the", "standard", "forward/backward", "HMM", "learning", "algorithm", ".", "It", "should", "also", "be", "possible", "to", "design", "a", "HMM", "which", ",", "like", "the", "n-per", "model", ",", "eliminates", "the", "assumption", "of", "one", "motif", "per", "sequence", ".", "It", "may", "also", "be", "possible", "to", "adapt", "MEME", "innovations", "to", "learning", "concepts", "-LSB-", "16", "-RSB-", ".", "discovered", "CRP", "sites", "in", "the", "colicin", "Ia", "and", "colicin", "Ib", "samples", ".", "The", "site", "in", "colicin", "Ib", "was", "mentioned", "in", "-LSB-", "21", "-RSB-", "as", "being", "either", "a", "LexA", "site", "or", "possibly", "a", "CRP", "site", ".", "-LSB-", "11", "-RSB-", "appear", "to", "have", "classified", "it", "as", "a", "LexA", "site", ".", "The", "results", "reported", "here", "indicate", "that", "the", "site", "is", "probably", "a", "CRP", "binding", "site", ",", "not", "a", "LexA", "binding", "site", ":", "the", "information", "content", "score", "for", "the", "site", "under", "the", "CRP", "model", "was", "around", "16", ",", "whereas", "it", "was", "less", "than", "1", "under", "the", "LexA", "model", ".", "No", "mention", "of", "the", "CRP", "site", "found", "in", "colicin", "Ia", "was", "found", "in", "the", "literature", ".", "Acknowledgments", "This", "work", "was", "supported", "in", "part", "by", "the", "National", "Science", "Foundation", "under", "Award", "No", ".", "IRI-9110813", ",", "and", "Timothy", "Bailey", "is", "supported", "by", "an", "NIH", "Genome", "Analysis", "Pre-Doctoral", "Training", "Grant", "No", ".", "HG00005", ".", "The", "authors", "are", "grateful", "to", "Michael", "78", "TIMOTHY", "L.", "BAILEY", "AND", "CHARLES", "ELKAN", "Gribskov", "for", "many", "useful", "conversations", "during", "the", "course", "of", "the", "work", "reported", "here", ",", "to", "Douglas", "W.", "Smith", "for", "extensive", "suggestions", "during", "the", "writing", "of", "this", "article", ",", "and", "to", "several", "other", "colleagues", "for", "advice", "and", "encouragement", ".", "Appendix", "Reestimating", "ae", "and", "z", "for", "the", "one-per", "and", "n-per", "models", ".", "During", "each", "iteration", "of", "EM", ",", "the", "values", "of", "the", "letter", "probabilities", "of", "the", "motif", "model", "ae", ",", "and", "of", "the", "offset", "probabilities", "z", ",", "must", "be", "reestimated", ".", "With", "the", "one-per", "model", ",", "the", "z", "values", "are", "reestimated", "using", "Bayes", "'", "rule", "from", "the", "current", "estimate", "of", "ae", ".", "For", "both", "models", ",", "given", "the", "values", "of", "z", ",", "ae", "is", "estimated", "as", "the", "expected", "values", "of", "the", "letter", "frequencies", ".", "How", "this", "is", "done", "is", "described", "below", ".", "To", "describe", "the", "EM", "algorithm", "for", "the", "two", "model", "types", "formally", ",", "the", "following", "definitions", "are", "useful", ".", "Let", "N", "be", "the", "number", "of", "sequences", ",", "W", "be", "the", "length", "of", "the", "motif", ",", "and", "L", "be", "the", "length", "of", "each", "sequence", "-LRB-", "assume", "all", "are", "of", "the", "same", "length", "-RRB-", ".", "as", "the", "estimate", "after", "q", "iterations", "of", "EM", "of", "the", "probability", "that", "the", "site", "begins", "at", "position", "j", "in", "sequence", "i", "given", "the", "model", "and", "the", "data", ".", "Let", "ae", "-LRB-", "q", "-RRB-", "lk", "be", "the", "estimate", "after", "q", "iterations", "of", "EM", "of", "the", "probability", "of", "letter", "l", "appearing", "in", "position", "k", "of", "the", "motif", ".", "Let", "S", "i", "be", "the", "ith", "sequence", "in", "the", "dataset", "and", "S", "ij", "be", "the", "letter", "appearing", "in", "position", "j", "of", "that", "sequence", ".", "Define", "an", "indicator", "variable", "Y", "ij", "that", "the", "site", "starts", "at", "position", "j", "in", "sequence", "i", ",", "and", "0", "otherwise", ".", "We", "ignore", "the", "probability", "of", "the", "letters", "outside", "of", "the", "motif", ",", "and", "only", "consider", "the", "probability", "of", "the", "letters", "in", "the", "motif", ".", "For", "both", "model", "types", ",", "EM", "must", "calculate", "the", "probability", "of", "sequence", "S", "i", "given", "the", "motif", "start", "and", "the", "model", ".", "This", "can", "be", "written", "as", "Y", "ae", "-LRB-", "q", "-RRB-", "l", "k", ";", "k", "where", "the", "sequence", "S", "i", "has", "letter", "l", "k", "at", "position", "j", "This", "forms", "the", "basis", "for", "calculating", "z", "-LRB-", "q", "-RRB-", ".", "With", "the", "one-per", "model", ",", "Bayes", "'", "rule", "is", "used", "to", "estimate", "z", "-LRB-", "q", "-RRB-", "from", "P", "-LRB-", "S", "ae", "-LRB-", "q", "-RRB-", "-RRB-", ".", "Bayes", "'", "rule", "states", "that", "so", "z", "-LRB-", "q", "-RRB-", "is", "the", "prior", "probability", "that", "the", "motif", "begins", "at", "position", "j", "in", "sequence", "i.", "P", "0", "is", "not", "estimated", "and", "is", "assumed", "to", "be", "uniform", ",", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "79", "so", "the", "above", "simplifies", "to", "z", "-LRB-", "q", "-RRB-", "The", "probability", "is", "only", "estimated", "for", "sites", "which", "are", "completely", "within", "a", "sequence", ",", "so", "j", "is", "assumed", "to", "be", "within", "the", "range", "all", "calculations", "of", "z", "-LRB-", "q", "-RRB-", ".", "Notice", "that", "the", "above", "formula", "for", "z", "-LRB-", "q", "-RRB-", "ensures", "that", "it", "sums", "to", "1.0", "for", "each", "sequence", ".", "This", "enforces", "the", "implicit", "assumption", "of", "the", "one-per", "model", "that", "each", "sequence", "contains", "exactly", "one", "appearance", "of", "the", "shared", "motif", ".", "For", "the", "n-per", "model", ",", "our", "modified", "EM", "algorithm", "normalizes", "z", "-LRB-", "q", "-RRB-", "so", "that", "the", "sum", "over", "all", "positions", "in", "all", "sequences", "is", "NSITES", ".", "This", "can", "be", "written", "formally", "as", "z", "-LRB-", "q", "-RRB-", "Once", "z", "has", "been", "calculated", "as", "above", "for", "the", "n-per", "model", ",", "it", "undergoes", "two", "normalizations", "to", "enforce", "the", "constraints", "that", "each", "z", "-LRB-", "q", "-RRB-", "ij", "is", "less", "than", "or", "equal", "to", "1.0", ",", "and", "that", "the", "sum", "of", "the", "z", "-LRB-", "q", "-RRB-", "ij", "in", "any", "window", "of", "length", "W", "is", "less", "than", "or", "equal", "to", "1.0", ".", "These", "constraints", "can", "be", "written", "formally", "as", "z", "-LRB-", "q", "-RRB-", "z", "-LRB-", "q", "-RRB-", "There", "are", "many", "different", "ways", "in", "which", "the", "constraints", "could", "be", "enforced", ".", "A", "particular", "manner", "was", "chosen", "which", "reduces", "computational", "effort", ".", "No", "claim", "is", "made", "that", "this", "is", "the", "only", "or", "best", "choice", ".", "The", "two", "constraints", "are", "enforced", "separately", "by", "applying", "the", "following", "two", "algorithms", "in", "order", ".", "Figure", "A", "presents", "the", "first", "algo", "-", "rithm", ",", "which", "makes", "one", "or", "more", "passes", "through", "the", "offset", "probabilities", "normalizing", "them", "to", "sum", "to", "NSITES", "and", "``", "squashing", "''", "-LRB-", "setting", "to", "1.0", "-RRB-", "any", "that", "would", "exceed", "1.0", "after", "normalization", ".", "After", "each", "pass", ",", "if", "any", "offset", "probabilities", "get", "squashed", ",", "another", "pass", "is", "made", "to", "raise", "the", "value", "of", "offset", "probabilities", "that", "have", "never", "been", "squashed", "so", "that", "the", "NSITES", "total", "is", "enforced", ".", "In", "practice", ",", "usually", "few", "passes", "are", "needed", ".", "The", "second", "algorithm", ",", "given", "in", "Figure", ",", "is", "run", "next", "to", "enforce", "the", "constraint", "that", "no", "window", "of", "W", "positions", "has", "offset", "probabilities", "that", "sum", "to", "more", "than", "1.0", ".", "This", "is", "achieved", "by", "dividing", "each", "sequence", "into", "adjacent", "windows", "of", "length", "W", "and", "normalizing", "within", "each", "window", "separately", ".", "Windows", "are", "then", "shifted", "one", "to", "the", "right", "and", "the", "process", "is", "repeated", ".", "This", "is", "done", "for", "all", "W", "possible", "shifts", "of", "the", "win", "-", "dows", ",", "which", "guarantees", "that", "no", "window", "of", "width", "W", "will", "have", "offset", "probabilities", "summing", "to", "greater", "than", "1.0", ",", "but", "may", "reduce", "the", "total", "sum", "below", "NSITES", ".", "The", "squashing", "algorithm", "could", "be", "repeated", "to", "correct", "this", "but", "this", "is", "not", "done", "in", "the", "interest", "of", "saving", "computation", "time", ".", "1", ".", "SQUASH", "-LRB-", "z", "-LRB-", "unnormalized", ";", "z", "-LRB-", "q", "-RRB-", "2", ".", "total", "-LRB-", "the", "total", "of", "z", "-LRB-", "q", "-RRB-", "for", "all", "sequences", "and", "positions", "-RRB-", ",", "3", ".", "NSITES", "-LRB-", "the", "number", "of", "appearances", "of", "the", "motif", "expected", "-RRB-", ",", "4", ".", "L", "-LRB-", "length", "of", "the", "sequences", "-RRB-", ",", "5", ".", "N", "-LRB-", "number", "of", "sequences", "-RRB-", "-RRB-", "f", "7", ".", "while", "-LRB-", "renormalize", "-RRB-", "f", "8", ".", "9", ".", "11", ".", "for", "12", ".", "for", "14", ".", "if", "-LRB-", "p", "!", "1", "-RRB-", "f", "19", ".", "21", ".", "g", "24", ".", "g", "25", ".", "g", "26", ".", "g", "27", ".", "return", "28", ".", "g", "Figure", "A.", "1", ".", "SQUASH", ":", "Normalize", "the", "z", "ij", "to", "sum", "to", "NSITES", "while", "constraining", "each", "to", "be", "between", "0", "and", "1", ".", "UNSUPERVISED", "LEARNING", "OF", "MULTIPLE", "MOTIFS", "IN", "BIOPOLYMERS", "USING", "EM", "81", "1", ".", "SMOOTH", "-LRB-", "z", "-LRB-", "q", "-RRB-", "-LRB-", "normalized", "offset", "probabilities", "-RRB-", ",", "2", ".", "L", "-LRB-", "length", "of", "the", "sequences", "-RRB-", ",", "3", ".", "N", "-LRB-", "number", "of", "sequences", "-RRB-", "4", ".", "for", "5", ".", "for", "6", ".", "for", "offset", "to", "7", ".", "8", ".", "for", "9", ".", "11", ".", "if", "-LRB-", "localp", "?", "12", ".", "for", "13", ".", "z", "-LRB-", "q", "-RRB-", "14", ".", "g", "15", ".", "g", "17", ".", "g", "19", ".", "return", "Figure", "A.", "2", ".", "SMOOTH", ":", "Constrain", "the", "sum", "of", "offset", "probabilities", "in", "any", "window", "of", "width", "W", "to", "sum", "to", "no", "more", "than", "1.0", ".", "Notes", "1", ".", "The", "name", "MEME", "has", "several", "explanations", ".", "First", ",", "it", "is", "an", "acronym", "for", "multiple", "EM", "for", "motif", "elicitation", ".", "Second", ",", "as", "an", "English", "word", "``", "meme", "''", "means", "a", "theme", "or", "motif", "whose", "propagation", "through", "cultural", "evolution", "is", "similar", "to", "the", "propagation", "of", "a", "gene", "in", "biological", "evolution", ".", "Third", ",", "MEME", "is", "a", "greedy", "algorithm-a", "``", "me", "!", "me", "!", "''", "algorithm", ".", "2", ".", "A", "related", "measure", "used", "occasionally", "in", "this", "paper", ",", "I", "model", "is", "the", "information", "content", "of", "the", "model", "-LSB-", "17", "-RSB-", ".", "It", "is", "the", "sum", "of", "the", "information", "content", "of", "each", "position", "in", "the", "motif", ",", "I", "j", ",", "over", "all", "the", "positions", "in", "the", "motif", ".", "The", "information", "content", "of", "a", "position", "in", "the", "motif", "is", "defined", "as", "I", "ae", "lj", "log", "-LRB-", "ae", "lj", "where", "-", "l", "is", "the", "overall", "frequency", "of", "letter", "l", "in", "the", "dataset", ".", "The", "information", "content", "of", "the", "model", "is", "thus", "defined", "as", "I", "The", "relationship", "between", "I", "model", "and", "log", "-LRB-", "likelihood", "-RRB-", "is", "discussed", "by", "Stormo", "-LSB-", "18", "-RSB-", "and", "Bailey", "-LSB-", "1", "-RSB-", ".", "3", ".", "Promoter", "sequences", "are", "DNA", "sequences", "that", "precede", "genes", "and", "are", "necessary", "for", "the", "transcription", "of", "DNA", "to", "messenger", "RNA", ".", "4", ".", "The", "consensus", "sequence", "of", "a", "motif", "is", "the", "sequence", "consisting", "of", "the", "most", "commonly", "occurring", "letter", "in", "each", "position", "of", "the", "appearances", "of", "the", "motif", ".", "Ties", "are", "resolved", "arbitrarily", ".", "5", ".", "See", "-LSB-", "17", "-RSB-", "for", "a", "discussion", "of", "matrix-based", "scoring", "of", "sequences", ".", "6", ".", "Using", "all", "possible", "subsequences", "of", "the", "first", "dataset", "sequence", "is", "suggested", "in", "-LSB-", "19", "-RSB-", ".", "The", "MEME", "approach", "of", "using", "all", "subsequences", "of", "all", "sequences", "is", "preferable", "since", "it", "makes", "the", "order", "in", "which", "sequences", "are", "given", "unimportant", ".", "Not", "using", "just", "the", "first", "sample", "also", "eliminates", "the", "problem", "of", "the", "first", "sample", "happening", "to", "contain", "no", "motif", "occurrence", ".", "7", ".", "The", "idea", "of", "a", "``", "conserved", "motif", "''", "comes", "from", "the", "biological", "idea", "that", "the", "occurrences", "of", "motifs", "are", "often", "related", "to", "each", "other", "by", "evolution", ".", "A", "well", "conserved", "motif", "is", "one", "whose", "appearances", "are", "all", "almost", "identical", "to", "each", "other", "because", "little", "mutation", "has", "occurred", "in", "them", "since", "they", "separated", "from", "each", "other", "or", "from", "a", "common", "ancestor", ".", "8", ".", "Biologists", "often", "number", "the", "``", "bases", "''", "-LRB-", "i.e.", ",", "letters", "-RRB-", "in", "a", "DNA", "sequence", "with", "base", "1", "being", "the", "base", "where", "transcription", "from", "DNA", "to", "messenger", "RNA", "begins", ".", "Bases", "preceding", "the", "start", "of", "transcription", "are", "given", "negative", "numbers", ",", "starting", "at", "-1", ",", "with", "0", "not", "used", ".", "-RRB-", "9", ".", "If", "the", "best", "value", "of", "W", "is", "not", "known", "in", "advance", ",", "MEME", "can", "be", "run", "repeatedly", "with", "different", "values", ".", "-LSB-", "14", "-RSB-", "addresses", "the", "question", "of", "choosing", "the", "best", "value", "of", "W", ".", "Each", "run", "of", "MEME", "uses", "a", "single", "value", "of", "W", "for", "all", "motifs", "found", ".", "--", "R", "Likelihood", "vs.", "information", "in", "aligning", "biopolymer", "sequences", ".", "The", "PROSITE", "dictionary", "of", "sites", "and", "patterns", "in", "proteins", "Selection", "of", "DNA", "binding", "sites", "by", "regulatory", "proteins", ".", "Expectation", "maximization", "algorithm", "for", "identifying", "protein-binding", "sites", "with", "variable", "lengths", "from", "unaligned", "DNA", "fragments", "Cyclic", "AMP", "receptor", "protein", ":", "Role", "in", "transcription", "activation", ".", "Maximum", "likelihood", "from", "incomplete", "data", "via", "the", "EM", "algorithm", ".", "Pattern", "Classification", "and", "Scene", "Analysis", ".", "Analysis", "of", "E.", "Protein", "modeling", "using", "hidden", "Markov", "models", ":", "Analysis", "of", "globins", ".", "fast", "searching", "of", "protein", "sequences", "with", "regular", "expression", "patterns", "related", "to", "protein", "structure", "and", "function", ".", "Detecting", "subtle", "sequence", "signals", ":", "A", "Gibbs", "sampling", "strategy", "for", "multiple", "alignment", ".", "An", "expectation", "maximization", "-LRB-", "EM", "-RRB-", "algorithm", "for", "the", "identification", "and", "characterization", "of", "common", "sites", "in", "unaligned", "biopolymer", "sequences", ".", "Induction", "of", "decision", "trees", ".", "Stochastic", "context-free", "grammars", "for", "modeling", "RNA", "Computer", "methods", "for", "analyzing", "sequence", "recognition", "of", "nucleic", "acids", ".", "Consensus", "patterns", "in", "DNA", ".", "Locating", "protein-coding", "regions", "in", "human", "DNA", "sequences", "by", "a", "multiple", "sensor-neural", "network", "approach", "Analysis", "of", "a", "cloned", "colicin", "Ib", "gene", ":", "complete", "nucleotide", "sequence", "and", "implications", "for", "regulation", "of", "expression", ".", "--", "TR", "--", "CTR", "Uri", "Keich", ",", "Pavel", "A.", "Pevzner", ",", "Finding", "motifs", "in", "the", "twilight", "zone", ",", "Proceedings", "of", "the", "sixth", "annual", "international", "conference", "on", "Computational", "biology", ",", "p.195-204", ",", "April", "18-21", ",", "2002", ",", "Washington", ",", "DC", ",", "USA", "Rhonda", "Harrison", ",", "Charles", "DeLisi", ",", "A", "hypothesis", "driven", "approach", "to", "condition", "specific", "transcription", "factor", "binding", "site", "characterization", "in", "S.c.", ",", "Proceedings", "of", "the", "2002", "ACM", "symposium", "on", "Applied", "computing", ",", "March", "11-14", ",", "2002", ",", "Madrid", ",", "Spain", "Gert", "Thijs", ",", "Kathleen", "Marchal", ",", "Magali", "Lescot", ",", "Stephane", "Rombauts", ",", "Bart", "De", "Moor", ",", "Pierre", "Rouz", ",", "Yves", "Moreau", ",", "A", "Gibbs", "sampling", "method", "to", "detect", "over-represented", "motifs", "in", "the", "upstream", "regions", "of", "co-expressed", "genes", ",", "Proceedings", "of", "the", "fifth", "annual", "international", "conference", "on", "Computational", "biology", ",", "p.305-312", ",", "April", "22-25", ",", "2001", ",", "Montreal", ",", "Quebec", ",", "Canada", "Topon", "Kumar", "Paul", ",", "Hitoshi", "Iba", ",", "Identification", "of", "weak", "motifs", "in", "multiple", "biological", "sequences", "using", "genetic", "algorithm", ",", "Proceedings", "of", "the", "8th", "annual", "conference", "on", "Genetic", "and", "evolutionary", "computation", ",", "July", "08-12", ",", "2006", ",", "Seattle", ",", "Washington", ",", "USA", "Mathieu", "Blanchette", ",", "A", "comparative", "analysis", "method", "for", "detecting", "binding", "sites", "in", "coding", "regions", ",", "Proceedings", "of", "the", "seventh", "annual", "international", "conference", "on", "Research", "in", "computational", "molecular", "biology", ",", "p.57-66", ",", "April", "10-14", ",", "2003", ",", "Berlin", ",", "Germany", "Benjamin", "Raphael", ",", "Lung-Tien", "Liu", ",", "George", "Varghese", ",", "A", "Uniform", "Projection", "Method", "for", "Motif", "Discovery", "in", "DNA", "Sequences", ",", "IEEE/ACM", "Transactions", "on", "Computational", "Biology", "and", "Bioinformatics", "-LRB-", "TCBB", "-RRB-", ",", "v.", "1", "n.", "2", ",", "p.91-94", ",", "April", "2004", "Anshul", "Kundaje", ",", "Manuel", "Middendorf", ",", "Feng", "Gao", ",", "Chris", "Wiggins", ",", "Christina", "Leslie", ",", "Combining", "Sequence", "and", "Time", "Series", "Expression", "Data", "to", "Learn", "Transcriptional", "Modules", ",", "IEEE/ACM", "Transactions", "on", "Computational", "Biology", "and", "Bioinformatics", "-LRB-", "TCBB", "-RRB-", ",", "v.", "2", "n.", "3", ",", "p.194-202", ",", "July", "2005", "Darya", "Chudova", ",", "Padhraic", "Smyth", ",", "Pattern", "discovery", "in", "sequences", "under", "a", "Markov", "assumption", ",", "Proceedings", "of", "the", "eighth", "ACM", "SIGKDD", "international", "conference", "on", "Knowledge", "discovery", "and", "data", "mining", ",", "July", "23-26", ",", "2002", ",", "Edmonton", ",", "Alberta", ",", "Canada", "Qicheng", "Ma", ",", "Jason", "T.", "L.", "Wang", ",", "James", "R.", "Gattiker", ",", "Mining", "biomolecular", "data", "using", "background", "knowledge", "and", "artificial", "neural", "networks", ",", "Handbook", "of", "massive", "data", "sets", ",", "Kluwer", "Academic", "Publishers", ",", "Norwell", ",", "MA", ",", "2002", "Eleazar", "Eskin", ",", "From", "profiles", "to", "patterns", "and", "back", "again", ":", "a", "branch", "and", "bound", "algorithm", "for", "finding", "near", "optimal", "motif", "profiles", ",", "Proceedings", "of", "the", "eighth", "annual", "international", "conference", "on", "Resaerch", "in", "computational", "molecular", "biology", ",", "p.115-124", ",", "March", "27-31", ",", "2004", ",", "San", "Diego", ",", "California", ",", "USA", "Derong", "Liu", ",", "Xiaoxu", "Xiong", ",", "Zeng-Guang", "Hou", ",", "Bhaskar", "DasGupta", ",", "Identification", "of", "motifs", "with", "insertions", "and", "deletions", "in", "protein", "sequences", "using", "self-organizing", "neural", "networks", ",", "Neural", "Networks", ",", "v.", "18", "n.5-6", ",", "p.835-842", ",", "June", "2005", "Saurabh", "Sinha", ",", "Discriminative", "motifs", ",", "Proceedings", "of", "the", "sixth", "annual", "international", "conference", "on", "Computational", "biology", ",", "p.291-298", ",", "April", "18-21", ",", "2002", ",", "Washington", ",", "DC", ",", "USA", "Jeremy", "Buhler", ",", "Martin", "Tompa", ",", "Finding", "motifs", "using", "random", "projections", ",", "Proceedings", "of", "the", "fifth", "annual", "international", "conference", "on", "Computational", "biology", ",", "p.69-76", ",", "April", "22-25", ",", "2001", ",", "Montreal", ",", "Quebec", ",", "Canada", "Francis", "Y.", "L.", "Chin", ",", "Henry", "C.", "M.", "Leung", ",", "S.", "M.", "Yiu", ",", "T.", "W.", "Lam", ",", "Roni", "Rosenfeld", ",", "W.", "W.", "Tsang", ",", "David", "K.", "Smith", ",", "Y.", "Jiang", ",", "Finding", "motifs", "for", "insufficient", "number", "of", "sequences", "with", "strong", "binding", "to", "transcription", "facto", ",", "Proceedings", "of", "the", "eighth", "annual", "international", "conference", "on", "Resaerch", "in", "computational", "molecular", "biology", ",", "p.125-132", ",", "March", "27-31", ",", "2004", ",", "San", "Diego", ",", "California", ",", "USA", "Xiaoming", "Wu", ",", "Bo", "Wang", ",", "Changxin", "Song", ",", "Jingzhi", "Cheng", ",", "A", "combined", "model", "and", "a", "varied", "Gibbs", "sampling", "algorithm", "used", "for", "motif", "discovery", ",", "Proceedings", "of", "the", "second", "conference", "on", "Asia-Pacific", "bioinformatics", ",", "p.99-104", ",", "January", "01", ",", "2004", ",", "Dunedin", ",", "New", "Zealand", "Bill", "C.", "Chang", ",", "Asanga", "Ratnaweera", ",", "Saman", "K.", "Halgamuge", ",", "Harry", "C.", "Watson", ",", "Particle", "Swarm", "Optimisation", "for", "Protein", "Motif", "Discovery", ",", "Genetic", "Programming", "and", "Evolvable", "Machines", ",", "v.", "5", "n.", "2", ",", "p.203-214", ",", "June", "2004", "Bill", "Chiu", ",", "Eamonn", "Keogh", ",", "Stefano", "Lonardi", ",", "Probabilistic", "discovery", "of", "time", "series", "motifs", ",", "Proceedings", "of", "the", "ninth", "ACM", "SIGKDD", "international", "conference", "on", "Knowledge", "discovery", "and", "data", "mining", ",", "August", "24-27", ",", "2003", ",", "Washington", ",", "D.C.", "Yi", "Lu", ",", "Shiyong", "Lu", ",", "Farshad", "Fotouhi", ",", "Yan", "Sun", ",", "Zijiang", "Yang", ",", "Lily", "R.", "Liang", ",", "PDC", ":", "pattern", "discovery", "with", "confidence", "in", "DNA", "sequences", ",", "Proceedings", "of", "the", "2nd", "IASTED", "international", "conference", "on", "Advances", "in", "computer", "science", "and", "technology", ",", "p.345-350", ",", "January", "23-25", ",", "2006", ",", "Puerto", "Vallarta", ",", "Mexico", "Mathieu", "Blanchette", ",", "Algorithms", "for", "phylogenetic", "footprinting", ",", "Proceedings", "of", "the", "fifth", "annual", "international", "conference", "on", "Computational", "biology", ",", "p.49-58", ",", "April", "22-25", ",", "2001", ",", "Montreal", ",", "Quebec", ",", "Canada", "Alberto", "Apostolico", ",", "Cinzia", "Pizzi", ",", "Motif", "discovery", "by", "monotone", "scores", ",", "Discrete", "Applied", "Mathematics", ",", "v.", "155", "n.6-7", ",", "p.695-706", ",", "April", ",", "2007", "Alberto", "Apostolico", ",", "Fang-Cheng", "Gong", ",", "Stefano", "Lonardi", ",", "Verbumculus", "and", "the", "discovery", "of", "unusual", "words", ",", "Journal", "of", "Computer", "Science", "and", "Technology", ",", "v.", "19", "n.", "1", ",", "p.22-41", ",", "January", "2004" ]

[ "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "--", "T", "Efficient", "algorithms", "for", "atmospheric", "correction", "of", "remotely", "sensed", "data", ".", "--", "A", "Remotely", "sensed", "imagery", "has", "been", "used", "for", "developing", "and", "validating", "various", "studies", "regarding", "land", "cover", "dynamics", ".", "However", ",", "the", "large", "amounts", "of", "imagery", "collected", "by", "the", "satellites", "are", "largely", "contaminated", "by", "the", "effects", "of", "atmospheric", "particles", ".", "The", "objective", "of", "atmospheric", "correction", "is", "to", "retrieve", "the", "surface", "reflectance", "from", "remotely", "sensed", "imagery", "by", "removing", "the", "atmospheric", "effects", ".", "We", "introduce", "a", "number", "of", "computational", "techniques", "that", "lead", "to", "a", "substantial", "speedup", "of", "an", "atmospheric", "correction", "algorithm", "based", "on", "using", "look-up", "tables", ".", "Excluding", "I/O", "time", ",", "the", "previous", "known", "implementation", "processes", "one", "pixel", "at", "a", "time", "and", "requires", "about", "2.63", "seconds", "per", "pixel", "on", "a", "SPARC-10", "machine", ",", "while", "our", "implementation", "is", "based", "on", "processing", "the", "whole", "image", "and", "takes", "about", "4-20", "microseconds", "per", "pixel", "on", "the", "same", "machine", ".", "We", "also", "develop", "a", "parallel", "version", "of", "our", "algorithm", "that", "is", "scalable", "in", "terms", "of", "both", "computation", "and", "I/O", ".", "Experimental", "results", "obtained", "show", "that", "a", "Thematic", "Mapper", "-LRB-", "TM", "-RRB-", "image", "-LRB-", "36", "MB", "per", "band", ",", "5", "bands", "need", "to", "be", "corrected", "-RRB-", "can", "be", "handled", "in", "less", "than", "4.3", "minutes", "on", "a", "32-node", "CM-5", "machine", ",", "including", "I/O", "time", ".", "--", "B", "Introduction", "Data", "from", "the", "Landsat", "series", "of", "satellites", "have", "been", "available", "since", "1972", ".", "The", "primary", "source", "of", "data", "from", "the", "first", "three", "satellites", "was", "the", "Multispectral", "Scanner", "System", "-LRB-", "MSS", "-RRB-", ".", "The", "Thematic", "Mapper", "-LRB-", "TM", "-RRB-", "of", "Landsats", "4", "and", "5", "represents", "a", "major", "improvement", "compared", "with", "the", "MSS", "in", "terms", "of", "spectral", "resolution", "-LRB-", "4", "wave-bands", "for", "MSS", ",", "7", "narrower", "wave-bands", "for", "TM", "-RRB-", ",", "and", "spatial", "resolution", "-LRB-", "79", "meters", "for", "MSS", ",", "and", "meters", "for", "TM", "-RRB-", ".", "The", "TM", "data", "have", "been", "widely", "used", "for", "resource", "inventory", ",", "environmental", "monitoring", ",", "and", "a", "variety", "of", "other", "applications", "-LSB-", "1", "-RSB-", ".", "Since", "1979", ",", "the", "Advanced", "Very", "High", "Resolution", "Radiometers", "-LRB-", "AVHRR", "-RRB-", "on", "board", "of", "the", "National", "Oceanic", "and", "Atmospheric", "Administration", "-LRB-", "NOAA", "-RRB-", "series", "of", "satellites", "have", "been", "in", "continuous", "polar", "orbit", ".", "AVHRR", "data", "have", "become", "extremely", "important", "for", "global", "studies", "because", "they", "carry", "multiple", "bands", "in", "the", "visible", ",", "the", "infrared", "and", "the", "thermal", "spectrum", ",", "and", "a", "complete", "coverage", "of", "the", "Earth", "is", "available", "twice", "daily", "with", "1.1", "km", "resolution", "at", "nadir", "and", "from", "two", "platforms", ".", "AVHRR", "has", "allowed", "us", "for", "the", "first", "time", "to", "improve", "our", "studies", "of", "the", "earth", "surface", "from", "the", "regional", "scale", "to", "the", "global", "scale", "using", "remote", "sensing", "techniques", "-LSB-", "1", ",", "2", "-RSB-", ".", "The", "radiation", "from", "the", "earth", "surface", ",", "which", "highly", "characterizes", "surface", "inherent", "properties", ",", "are", "largely", "contaminated", "by", "the", "atmosphere", ".", "The", "atmospheric", "particles", "-LRB-", "aerosols", "and", "molecules", "-RRB-", "scatter", "and", "absorb", "the", "solar", "photons", "reflected", "by", "the", "surface", "in", "such", "a", "way", "that", "only", "part", "of", "the", "surface", "radiation", "can", "be", "detected", "by", "the", "sensor", ".", "On", "the", "other", "hand", ",", "atmospheric", "particles", "scatter", "the", "sunlight", "into", "the", "sensor", "'s", "field", "of", "view", "directly", ",", "resulting", "in", "a", "radiation", "that", "does", "not", "contain", "any", "surface", "information", "at", "all", ".", "The", "combined", "atmospheric", "effects", "due", "to", "scattering", "and", "absorption", "are", "wavelength", "dependent", ",", "vary", "in", "time", "and", "space", ",", "and", "depend", "on", "the", "surface", "reflectance", "and", "its", "spatial", "variation", "-LSB-", "3", "-RSB-", ".", "For", "TM", "band", "1", ",", "it", "is", "likely", "that", "the", "aerosol", "contribution", "is", "of", "the", "order", "of", "50", "%", "even", "for", "relatively", "clear", "sky", "conditions", ".", "Although", "qualitative", "evaluation", "of", "these", "remotely", "sensed", "data", "have", "been", "very", "useful", ",", "the", "developments", "of", "the", "quantitative", "linkages", "between", "the", "satellite", "imagery", "and", "the", "surface", "characteristics", "greatly", "depend", "on", "the", "removal", "of", "the", "atmospheric", "effects", ".", "The", "objective", "of", "the", "so-called", "atmospheric", "correction", "is", "to", "retrieve", "the", "surface", "reflectance", "from", "remotely", "sensed", "imagery", ".", "It", "has", "been", "demonstrated", "-LSB-", "4", ",", "5", "-RSB-", "that", "the", "atmospheric", "correction", "can", "significantly", "improve", "the", "accuracy", "of", "image", "classification", ".", "Atmospheric", "correction", "algorithms", "basically", "consist", "of", "two", "major", "steps", ".", "First", ",", "the", "optical", "characteristics", "of", "the", "atmosphere", "are", "estimated", "either", "by", "using", "special", "features", "of", "the", "ground", "surface", "or", "by", "direct", "measurements", "of", "the", "atmospheric", "constituents", "-LSB-", "10", "-RSB-", "or", "by", "using", "theoretical", "models", ".", "Various", "quantities", "related", "to", "the", "atmospheric", "correction", "can", "then", "be", "computed", "by", "the", "radiative", "transfer", "algorithms", "given", "the", "atmospheric", "optical", "properties", ".", "Second", ",", "the", "remotely", "sensed", "imagery", "can", "be", "corrected", "by", "inversion", "procedures", "that", "derive", "the", "surface", "reflectance", ",", "as", "we", "will", "shortly", "discussed", "in", "more", "details", ".", "In", "this", "paper", ",", "we", "will", "focus", "on", "the", "second", "step", ",", "describing", "our", "work", "on", "improving", "the", "computational", "efficiency", "of", "the", "existing", "atmospheric", "correction", "algorithms", ".", "In", "Section", "2", ",", "we", "present", "background", "material", ",", "while", "a", "known", "atmospheric", "correction", "algorithm", "is", "described", "in", "Section", "3", ".", "We", "describe", "in", "Section", "4", "a", "substantially", "more", "efficient", "version", "of", "the", "algorithm", ".", "In", "Section", "5", ",", "we", "develop", "a", "parallel", "implementation", "of", "our", "algorithm", ",", "that", "is", "scalable", "in", "terms", "of", "number", "of", "processors", ",", "internal", "memory", "size", ",", "and", "number", "of", "I/O", "nodes", ".", "A", "case", "study", "is", "presented", "in", "Section", "6", "and", "concluding", "remarks", "are", "given", "in", "Section", "7", ".", "Background", "2.1", "Atmospheric", "Correction", "In", "order", "to", "correct", "for", "the", "atmospheric", "effects", ",", "the", "relationship", "between", "the", "upward", "radiance", "L", "m", "measured", "by", "the", "satellite", "and", "the", "surface", "reflectance", "ae", "has", "to", "be", "estab", "-", "lished", ".", "The", "radiative", "transfer", "theory", "is", "used", "for", "this", "purpose", ".", "Assuming", "that", "the", "atmosphere", "is", "bounded", "by", "a", "Lambertian", "surface", "-LRB-", "i.e.", ",", "reflects", "solar", "energy", "isotropi", "-", "cally", "-RRB-", ",", "the", "upward", "radiance", "at", "the", "top", "of", "the", "cloud-free", ",", "horizontally", "homogeneous", "atmosphere", "can", "be", "expressed", "by", "-LSB-", "6", "-RSB-", ":", "where", "L", "0", "is", "the", "upward", "radiance", "of", "the", "atmosphere", "with", "zero", "surface", "reflectance", ",", "often", "called", "path", "radiance", ",", "F", "d", "is", "the", "downward", "flux", "-LRB-", "total", "integrated", "irradiance", "-RRB-", "at", "the", "ground", ",", "T", "is", "the", "transmittance", "from", "the", "surface", "to", "the", "sensor", "-LRB-", "the", "probability", "that", "a", "photon", "travels", "through", "a", "path", "without", "being", "scattered", "or", "absorbed", "-RRB-", ",", "and", "s", "is", "the", "atmospheric", "albedo", "-LRB-", "the", "probability", "that", "a", "photon", "reflected", "from", "the", "surface", "is", "reflected", "back", "to", "the", "surface", "-RRB-", ".", "From", "Eqn", ".", "-LRB-", "1", "-RRB-", "we", "can", "see", "that", "the", "factor", "ae", "is", "the", "sum", "of", "the", "infinite", "series", "of", "interactions", "between", "the", "surface", "and", "the", "atmosphere", "In", "order", "to", "invert", "ae", "from", "L", "m", "through", "Eqn", ".", "-LRB-", "1", "-RRB-", ",", "we", "need", "to", "determine", "the", "quantities", "which", "are", "functions", "of", "the", "wavelength", ",", "atmospheric", "optical", "properties", ",", "and", "a", "set", "of", "locational", "parameters", ".", "The", "locational", "information", "includes", ",", "surface", "level", "and", "observer", "heights", ",", "observation", "and", "solar", "zenith", "angles", ",", "and", "observation", "azimuth", "angle", "-LRB-", "Figure", "1", "-RRB-", ".", "There", "are", "two", "main", "tasks", "involved", ".", "The", "first", "is", "to", "estimate", "the", "atmospheric", "properties", "and", "the", "second", "is", "to", "calculate", "the", "functions", "required", "to", "invert", "the", "surface", "reflectance", "ae", ".", "Zenith", "Y", "f", "z", "Figure", "1", ":", "Angular", "coordinates", "used", "in", "the", "algorithm", ".", "The", "X-Y", "plane", "is", "a", "horizontal", "plane", "tangent", "to", "the", "earth", "'s", "surface", "at", "the", "observation", "point", ".", "The", "solar", "zenith", "angle", "observation", "zenith", "angle", "'", ",", "and", "observation", "azimuth", "angle", "OE", "are", "shown", ".", "It", "is", "not", "easy", "to", "obtain", "simultaneous", "measurements", "of", "all", "atmospheric", "optical", "properties", "operationally", "because", "of", "the", "rapid", "variation", "of", "the", "atmosphere", ".", "The", "estimation", "of", "the", "atmospheric", "optical", "properties", "from", "imagery", "itself", "is", "the", "only", "way", "for", "operational", "atmospheric", "correction", ".", "One", "of", "the", "main", "parameters", "needed", "for", "TM", "and", "AVHRR", "imagery", "is", "the", "aerosol", "optical", "depth", ",", "which", "is", "defined", "as", "The", "so-called", "``", "dark", "object", "''", "-LSB-", "7", "-RSB-", "approach", "is", "used", "for", "this", "study", ".", "The", "idea", "behind", "this", "approach", "is", "quite", "simple", ".", "We", "search", "for", "pixels", "with", "low", "surface", "reflectance", "using", "TM", "band", "7", "-LSB-", "8", "-RSB-", "-LRB-", "or", "AVHRR", "band", "3", "-LSB-", "9", ",", "10", "-RSB-", "-RRB-", "in", "which", "aerosol", "effect", "is", "very", "small", ",", "and", "then", "we", "assign", "a", "small", "surface", "reflectance", "to", "those", "dark", "pixels", "and", "the", "aerosol", "optical", "depth", "can", "be", "figured", "out", "from", "Eqn", ".", "-LRB-", "1", "-RRB-", ".", "Note", "that", "in", "this", "case", "the", "deviation", "of", "the", "assigned", "reflectance", "from", "the", "``", "true", "''", "reflectance", "will", "not", "result", "in", "a", "large", "uncertainty", "for", "the", "estimation", "of", "aerosol", "optical", "depth", "since", "both", "are", "very", "small", ".", "Given", "the", "aerosol", "optical", "depth", ",", "the", "determination", "of", "L", "0", ",", "F", "d", ",", "T", ",", "and", "s", "in", "Eqn", ".", "-LRB-", "1", "-RRB-", "is", "not", "a", "simple", "task", "due", "to", "the", "fact", "that", "these", "quantities", "are", "related", "to", "the", "solutions", "of", "the", "radiative", "transfer", "equation", "-LSB-", "6", "-RSB-", ",", "which", "is", "an", "integro-differential", "equation", "from", "which", "no", "analytical", "solution", "is", "available", ".", "There", "are", "a", "couple", "of", "approaches", "for", "obtaining", "practical", "solutions", ".", "The", "first", "is", "to", "use", "a", "numerical", "iterative", "approach", ",", "such", "as", "the", "discrete-ordinate", "algorithm", "-LSB-", "11", "-RSB-", ",", "and", "the", "Gauss-Seidel", "algorithm", "-LSB-", "12", "-RSB-", ".", "The", "resulting", "solutions", "are", "accurate", "but", "the", "methods", "involved", "are", "computationally", "very", "expensive", "and", "not", "feasible", "for", "large", "scale", "studies", ".", "Another", "approach", "is", "to", "simplify", "the", "radiative", "transfer", "equation", "by", "using", "approximations", ",", "such", "as", "the", "two-stream", "approximation", "-LSB-", "13", "-RSB-", ",", "and", "the", "four-stream", "approximation", "-LSB-", "14", "-RSB-", ".", "These", "approximation", "algorithms", "are", "computationally", "efficient", ",", "but", "the", "accuracy", "is", "limited", ".", "An", "alternative", "is", "to", "set", "up", "off-line", "look-up", "tables", "-LSB-", "15", "-RSB-", "for", "certain", "input", "values", ".", "With", "the", "additional", "tables", ",", "the", "quantities", "-LRB-", "L", "0", ",", "F", "d", ",", "T", ",", "and", "s", "-RRB-", "can", "be", "efficiently", "calculated", "with", "high", "accuracy", "using", "interpolations", ".", "This", "approach", "has", "been", "followed", "in", "this", "study", "and", "is", "referred", "to", "as", "the", "look-up", "table", "approach", ".", "2.2", "Why", "High", "Performance", "Computing", "-LRB-", "HPC", "-RRB-", "?", "The", "existing", "code", "-LSB-", "15", "-RSB-", "for", "atmospheric", "correction", "based", "on", "the", "look-up", "table", "approach", "processes", "one", "pixel", "at", "a", "time", "-LRB-", "and", "meant", "to", "be", "used", "interactively", "-RRB-", ",", "and", "takes", "2.63", "seconds", "to", "correct", "a", "single", "pixel", "on", "a", "SPARC-10", "machine", ",", "excluding", "I/O", ".", "A", "single", "TM", "image", "that", "covers", "an", "area", "of", "size", "180Km", "\\", "Theta", "180Km", "consists", "of", "approximately", "36", "million", "pixels", "per", "band", ",", "and", "will", "therefore", "require", "more", "than", "15", "years", "to", "correct", "with", "the", "existing", "code", ",", "excluding", "the", "I/O", "time", ".", "We", "address", "this", "apparent", "intractability", "by", "attempting", "to", "achieve", "the", "following", "two", "objectives", ":", "ffl", "Minimize", "the", "overall", "computational", "complexity", "while", "maintaining", "the", "accuracy", "of", "the", "algorithm", ".", "ffl", "Maximize", "the", "scalability", "of", "the", "computation", "and", "the", "I/O", "as", "a", "function", "of", "the", "available", "resources", "-LRB-", "computation", "nodes", ",", "I/O", "nodes", ",", "and", "size", "of", "internal", "mem", "-", "ory", "-RRB-", ".", "We", "believe", "that", "our", "algorithm", ",", "to", "be", "described", "in", "the", "rest", "of", "this", "paper", ",", "achieves", "both", "objectives", "simultaneously", ".", "In", "fact", ",", "we", "are", "able", "to", "correct", "a", "TM", "image", "in", "less", "than", "13", "minutes", "on", "SPARC-10", "-LRB-", "excluding", "I/O", "-RRB-", "and", "in", "less", "than", "4.3", "minutes", "on", "a", "32-processor", "CM-5", "-LRB-", "including", "I/O", "-RRB-", ".", "2.3", "Data", "Sources", "In", "our", "studies", ",", "TM", "and", "AVHRR", "are", "used", "as", "the", "primary", "sources", "of", "input", "data", "to", "our", "algorithm", ".", "The", "essential", "features", "of", "these", "imagery", "types", "are", "as", "follows", ".", "The", "TM", "imagery", "consists", "of", "7", "channels", "that", "correspond", "to", "7", "spectral", "bands", ".", "The", "resolution", "is", "30m", "and", "five", "bands", "need", "to", "be", "corrected", "-LRB-", "band", "6", "corresponds", "to", "the", "thermal", "channel", "and", "the", "atmosphere", "does", "not", "have", "much", "scattering", "effect", "on", "band", "7", "-RRB-", "-LSB-", "16", "-RSB-", ".", "An", "image", "covers", "approximately", "an", "area", "of", "size", "180Km", "\\", "Theta", "180Km", "and", "requires", "per", "channel", ".", "The", "Pathfinder", "AVHRR", "imagery", "consists", "of", "12", "channels", "from", "which", "only", "5", "channels", "are", "original", "band", "information", "and", "only", "2", "bands", "need", "to", "be", "corrected", "-LSB-", "17", "-RSB-", ".", "The", "remaining", "channels", "provide", "location", ",", "quality", ",", "cloud", ",", "and", "time", "information", ".", "Each", "band", "requires", "about", "20MB", "and", "the", "resolution", "is", "8Km", ".", "Each", "AVHRR", "image", "covers", "the", "entire", "globe", ".", "3", "Atmospheric", "Correction", "Algorithm", "3.1", "Description", "of", "Algorithm", "A", "direct", "implementation", "of", "an", "atmospheric", "correction", "algorithm", "based", "on", "the", "look-up", "table", "approach", "has", "been", "described", "in", "-LSB-", "15", "-RSB-", ",", "where", "a", "Fortran", "version", "is", "given", ".", "The", "overall", "algorithm", "can", "be", "sketched", "as", "follows", ".", "Algorithm", "-LRB-", "Atmospheric", "Correction", "-RRB-", "Input", ":", "N", "pixel", "values", "with", "the", "following", "information", "for", "each", "pixel", ":", "measurement", "wavelength", ",", "atmospheric", "correction", "parameters", ",", "location", "information", "and", "the", "day", "of", "measurement", ".", "Moreover", ",", "look-up", "tables", "for", "solar", "flux", "and", "for", "the", "functions", "are", "provided", ".", "Output", ":", "The", "surface", "reflectance", "at", "each", "pixel", ".", "for", "each", "pixel", "do", ":", "Step", "A", ":", "Read", "input", "parameters", "and", "appropriate", "look-up", "tables", ".", "Step", "B", ":", "Perform", "initializations", "and", "required", "normalizations", ".", "Step", "C", ":", "Compute", "by", "interpolation", ",", "using", "the", "look-up", "tables", ".", "Step", "D", ":", "Compute", "the", "surface", "reflectance", "ae", "using", "Eqn", ".", "-LRB-", "1", "-RRB-", ".", "In", "step", "B", ",", "we", "compute", "the", "solar", "flux", "for", "the", "measured", "wavelength", "by", "linear", "interpolation", "-LRB-", "using", "the", "spectral", "irradiances", "and", "earth-sun", "distance", "for", "given", "wavelengths", "-RRB-", ".", "Then", "we", "correct", "the", "solar", "flux", "for", "the", "day", "of", "the", "year", "for", "which", "the", "measurement", "is", "made", "and", "we", "use", "the", "result", "to", "convert", "the", "measured", "radiance", "L", "m", "from", "absolute", "units", "to", "reflectance", "units", ".", "We", "also", "compute", "the", "default", "values", "of", "the", "water", "and", "gaseous", "-LRB-", "carbon-dioxide", "and", "ozone", "-RRB-", "absorption", "by", "linear", "interpolation", "of", "the", "measured", "wave-length", "All", "the", "interpolations", "in", "step", "B", "are", "spline", "interpolations", "of", "degree", "one", ".", "A", "spline", "interpolation", "consists", "of", "polynomial", "pieces", "on", "subintervals", "joined", "together", "with", "certain", "continuity", "conditions", ".", "Formally", ",", "suppose", "that", "a", "table", "of", "spline", "function", "of", "degree", "k", "on", "these", "points", "is", "a", "function", ",", "S", "such", "that", ",", "-LRB-", "1", "-RRB-", "on", "each", "interval", "a", "polynomial", "of", "degree", "-", "k", ",", "and", "-LRB-", "3", "-RRB-", "S", "has", "a", "continuous", "1", "-RRB-", "st", "derivative", "on", "-LSB-", "x", "0", ";", "x", "n", "-RSB-", ".", "Thus", "the", "spline", "interpolation", "of", "degree", "one", "is", "a", "piecewise", "linear", "function", ".", "By", "interpolating", "at", "a", "point", "x", ",", "we", "want", "to", "find", "y", ",", "the", "value", "of", "function", "S", "at", "point", "x", ",", "assuming", "that", "x", "0", "-", "x", "-", "x", "n", ".", "Hence", ",", "for", "a", "spline", "interpolation", "of", "degree", "one", ",", "we", "need", "to", "find", "an", "index", "0", "approximate", "the", "value", "y", "by", "y", "\\", "Gammay", "j", "+1", "Step", "C", "is", "computationally", "intensive", "and", "involves", "both", "linear", "and", "nonlinear", "in", "-", "terpolations", ".", "We", "give", "next", "the", "details", "of", "step", "C", "for", "computing", "L", "0", ",", "a", "function", "of", "wavelength", ",", "location", ",", "and", "atmospheric", "parameters", ".", "Algorithm", "-LRB-", "Interpolate", "Input", ":", "Wavelength", ",", "atmospheric", "correction", "parameters", ",", "location", "information", "and", "look-up", "tables", ".", "begin", "1", ".", "Interpolate", "L", "0", "for", "the", "measured", "height", ".", "2", ".", "Interpolate", "L", "0", "for", "the", "wavelength", "and", "adjust", "for", "the", "excess", "and", "deficit", "of", "gaseous", "and", "water", "absorption", ".", "3", ".", "Interpolate", "L", "0", "on", "measured", "solar", "zenith", "angle", ".", "4", ".", "Interpolate", "L", "0", "on", "measured", "observation", "azimuth", "angle", ".", "5", ".", "Interpolate", "L", "0", "on", "measured", "observation", "zenith", "angle", ".", "6", ".", "Interpolate", "L", "0", "on", "measured", "optical", "thickness", ".", "In", "step", "1", ",", "linear", "interpolations", "and", "extrapolations", "are", "performed", ".", "The", "interpolations", "in", "step", "2", "are", "piecewise", "exponential", "interpolations", "and", "those", "required", "by", "steps", "3", ",", "4", ",", "and", "5", "are", "spline", "interpolations", "of", "degree", "one", ".", "For", "piecewise", "exponential", "interpolation", "at", "a", "point", "x", ",", "x", "log", "-LRB-", "x", "log", "-LRB-", "The", "interpolation", "on", "measured", "optical", "thickness", "required", "by", "Step", "6", "is", "non-linear", "and", "consists", "of", "the", "following", "substeps", ".", "First", "we", "find", "the", "minimum", "of", "a", "non-linear", "function", "over", "a", "subinterval", ";", "a", "costly", "process", "given", "the", "complexity", "of", "the", "function", "to", "be", "minimized", ".", "Second", ",", "we", "perform", "a", "linear", "or", "a", "nonlinear", "interpolation", "depending", "on", "the", "outcome", "of", "the", "first", "substep", ".", "3.2", "Implementation", "The", "direct", "atmospheric", "correction", "algorithm", "has", "been", "coded", "in", "Fortran", "-LSB-", "15", "-RSB-", "and", "tested", "on", "about", "20", "pixels", ".", "It", "uses", "eight", "look-up", "tables", ",", "one", "table", "for", "each", "of", "the", "2", "AVHRR", "bands", "of", "0.639", "and", "0.845", "-", "m", "and", "one", "for", "each", "of", "the", "6", "TM", "bands", "of", "0.486", ",", "0.587", ",", "0.663", ",", "0.837", ",", "1.663", "and", "2.189", "-", "m.", "Each", "table", "contains", "the", "values", "of", "L", "0", ",", "F", "d", ",", "T", "and", "s", "for", "nine", "solar", "zenith", "angles", "-LRB-", "10,20,30,40,50,60,66,72", ",", "and", "78", "degree", "-RRB-", ",", "13", "observation", "zenith", "angles", "-LRB-", "0", "to", "78", "degree", ",", "every", "6", "degree", "-RRB-", ",", "19", "observation", "azimuth", "angles", "-LRB-", "0", "to", "180", "degree", ",", "every", "10", "degree", ",", "plus", "5", "and", "175", "degrees", "-RRB-", ",", "4", "aerosol", "optical", "thicknesses", "-LRB-", "0.0", ",", "0.25", ",", "0.50", ",", "and", "1.0", "-RRB-", ",", "and", "3", "observation", "heights", "-LRB-", "0.45", ",", "4.5", ",", "and", "80.0", "kilometers", "-RRB-", ".", "One", "more", "table", "is", "used", "which", "gives", "the", "solar", "spectral", "irradiances", "for", "60", "wavelengths", "in", "the", "range", "0.486", "to", "2.189", "-", "m", ".", "The", "code", "corrects", "single", "pixels", "of", "an", "image", ".", "The", "wavelength", ",", "solar", "and", "observation", "angles", ",", "and", "aerosol", "optical", "thickness", "data", "are", "assumed", "to", "be", "in", "the", "range", "discussed", "above", "as", "no", "extrapolation", "is", "performed", ".", "If", "any", "of", "the", "selected", "parameters", "does", "not", "match", "any", "of", "the", "values", "used", "to", "construct", "the", "look-up", "tables", ",", "the", "algorithm", "interpolates", "on", "that", "parameter", ".", "For", "observation", "height", ",", "the", "algorithm", "both", "interpolates", "and", "extrapolates", ",", "and", "chooses", "the", "one", "that", "shows", "minimal", "atmospheric", "effect", "-LRB-", "lower", "values", "of", "intensity", "and", "higher", "values", "of", "transmittance", "are", "selected", "-RRB-", ".", "The", "computation", "for", "each", "pixel", "begins", "by", "reading", "the", "input", "data", "and", "look-up", "tables", ",", "followed", "by", "approximating", "the", "values", "of", "L", "0", ",", "F", "d", ",", "T", "and", "s", "by", "interpolations", ".", "Finally", "the", "surface", "reflectance", "of", "that", "pixel", "is", "computed", "using", "Eqn", ".", "-LRB-", "1", "-RRB-", ".", "The", "resulting", "algorithm", "takes", "2.63", "seconds", "to", "correct", "a", "single", "pixel", "on", "a", "SPARC", "-", "system", ".", "Hence", "this", "code", "is", "not", "suitable", "for", "handling", "images", "as", "a", "single", "TM", "image", "that", "covers", "an", "area", "of", "size", "-LRB-", "180km", "\\", "Theta", "180km", "-RRB-", "will", "take", "more", "than", "15", "years", "to", "correct", "all", "5", "bands", ".", "In", "the", "next", "section", ",", "we", "present", "our", "modified", "version", "of", "the", "algorithm", "which", "runs", "substantially", "faster", "and", "is", "quite", "efficient", "for", "handling", "images", ".", "Optimizing", "Overall", "Computational", "Complexity", "We", "introduce", "a", "number", "of", "techniques", "that", "lead", "to", "a", "substantially", "more", "efficient", "version", "of", "the", "atmospheric", "correction", "algorithm", ".", "We", "group", "our", "new", "techniques", "into", "5", "major", "types", "described", "briefly", "next", ".", "Reordering", "and", "Classifying", "Operations", ".", "In", "the", "previous", "algorithm", ",", "all", "operations", "are", "repeated", "for", "each", "pixel", ".", "We", "rearrange", "the", "operations", "into", "three", "groups", "-LRB-", "1", "-RRB-", "image", "based", ",", "-LRB-", "2", "-RRB-", "window", "based", ",", "and", "-LRB-", "3", "-RRB-", "pixel", "based", ".", "The", "first", "group", "includes", "the", "operations", "that", "are", "independent", "of", "pixel", "values", ".", "For", "example", ",", "reading", "the", "look-up", "tables", ",", "the", "initializations", "and", "the", "interpolations", "based", "on", "the", "height", "of", "the", "sensor", "are", "image", "based", "operations", ".", "The", "corresponding", "operations", "can", "be", "performed", "for", "one", "pixel", "and", "used", "for", "all", "the", "remaining", "pixels", ".", "The", "second", "class", "of", "operations", ",", "window", "based", ",", "are", "reserved", "for", "those", "that", "depend", "on", "parameters", "which", "remain", "fairly", "constant", "over", "a", "window", "of", "size", "w", "\\", "Theta", "w", "for", "a", "suitable", "value", "of", "w.", "For", "example", ",", "the", "aerosol", "optical", "thickness", "remains", "fairly", "constant", "over", "a", "small", "neighborhood", ".", "Atmospheric", "conditions", "and", "the", "resolution", "of", "the", "image", "determine", "the", "value", "of", "w", ".", "It", "follows", "that", "the", "computations", "and", "the", "interpolations", "belonging", "to", "the", "second", "group", "depend", "only", "on", "parameters", "that", "can", "be", "considered", "constant", "over", "windows", ".", "These", "operations", "can", "be", "performed", "only", "once", "for", "each", "window", "if", "they", "are", "performed", "before", "any", "pixel", "based", "computation", ".", "The", "remaining", "computations", "and", "interpolations", "belong", "to", "the", "third", "group", "and", "depend", "on", "pixel", "values", "or", "some", "other", "parameters", "that", "are", "different", "for", "each", "pixel", ".", "We", "reorganized", "the", "operations", "of", "the", "atmospheric", "correction", "algorithm", ",", "so", "that", "the", "first", "group", "-LRB-", "image", "based", "-RRB-", "operations", "appear", "first", "followed", "by", "those", "of", "the", "second", "group", "-LRB-", "window", "based", "-RRB-", ",", "and", "then", "by", "the", "third", "group", "operations", ".", "This", "has", "resulted", "in", "a", "substantial", "reduction", "of", "the", "total", "number", "of", "operations", "used", ".", "Performing", "Interpolations", "on", "Sub-cubes", "for", "Each", "Group", ".", "In", "the", "original", "al", "-", "gorithm", ",", "each", "interpolation", "causes", "one", "of", "the", "dimensions", "to", "be", "removed", ".", "Moreover", ",", "all", "the", "interpolations", "are", "piecewise", "interpolations", ".", "To", "reduce", "the", "number", "of", "oper", "-", "ations", ",", "we", "first", "identify", "the", "appropriate", "indexes", "along", "all", "the", "dimensions", "for", "which", "interpolations", "are", "required", "within", "a", "certain", "class", "-LRB-", "image", ",", "window", ",", "or", "pixel", "-RRB-", ".", "Then", "we", "extract", "the", "sub-cube", ",", "obtained", "from", "the", "intersection", "of", "those", "indexes", ".", "With", "this", "technique", "not", "only", "is", "the", "computational", "complexity", "reduced", ",", "but", "also", "the", "computational", "complexity", "becomes", "almost", "independent", "of", "the", "size", "of", "the", "look-up", "tables", ".", "Data", "Dependent", "Control", ".", "Another", "technique", "is", "to", "use", "the", "characteristics", "of", "different", "data", "inputs", "to", "reduce", "the", "overall", "computational", "complexity", ".", "For", "high", "resolution", "data", "most", "of", "the", "parameters", "are", "constant", "for", "the", "whole", "image", "while", "for", "coarse", "data", "most", "parameters", "change", "from", "window", "-LRB-", "pixel", "-RRB-", "to", "window", "-LRB-", "pixel", "-RRB-", ".", "On", "the", "other", "hand", ",", "the", "computational", "complexity", "per", "pixel", "is", "much", "more", "important", "for", "high", "resolution", "data", "than", "for", "coarse", "data", "due", "to", "the", "large", "difference", "in", "the", "amount", "of", "data", "involved", ".", "Changing", "Nonlinear", "Interpolations", "to", "Linear", "Interpolations", ".", "We", "have", "replaced", "some", "of", "the", "nonlinear", "interpolations", "by", "linear", "interpolations", "at", "the", "expense", "of", "increasing", "the", "sizes", "of", "the", "look-up", "tables", ".", "This", "technique", "decreases", "the", "number", "of", "computations", "because", "those", "nonlinear", "interpolations", "are", "window", "based", "operations", "and", "increasing", "the", "look-up", "table", "size", "mostly", "affects", "image", "based", "operations", ".", "For", "ex", "-", "ample", ",", "we", "replaced", "the", "nonlinear", "interpolations", "on", "measured", "optical", "thickness", ",", "which", "induce", "window", "based", "operations", ",", "with", "linear", "interpolations", ".", "Removing", "Unnecessary", "Interpolations", ".", "We", "replaced", "the", "interpolations", "with", "simpler", "operations", "whenever", "possible", ".", "For", "example", ",", "since", "we", "are", "only", "dealing", "with", "satellite", "images", ",", "we", "do", "not", "need", "to", "do", "the", "interpolation", "for", "the", "observation", "height", "since", "it", "can", "be", "assumed", "as", "constant", ".", "These", "techniques", "were", "quite", "effective", "in", "improving", "the", "performance", "while", "preserving", "the", "quality", "of", "the", "corrected", "imagery", ".", "Table", "1", "shows", "the", "performance", "of", "our", "atmospheric", "correction", "algorithm", ",", "for", "different", "window", "sizes", "and", "for", "different", "types", "of", "input", "data", ".", "The", "execution", "times", "do", "not", "include", "I/O", "time", "and", "are", "obtained", "on", "a", "machine", ".", "Clearly", ",", "the", "new", "code", "is", "substantially", "faster", "than", "the", "code", "in", "-LSB-", "15", "-RSB-", "and", "can", "be", "used", "to", "correct", "all", "5", "bands", "of", "a", "TM", "image", "covering", "an", "area", "of", "size", "180km", "\\", "Theta", "180km", "with", "a", "window", "size", "of", "19", "\\", "Theta", "19", "in", "less", "than", "13", "minutes", "on", "a", "SPARC-10", "machine", "-LRB-", "excluding", "I/O", "-RRB-", ".", "Data", "Type", "Window", "Size", "Time", "-LRB-", "-", "sec/pixel", "-RRB-", "TM", "19", "\\", "Theta", "19", "4:01", "AVHRR", "19", "\\", "Theta", "19", "15:25", "Table", "1", ":", "Performance", "on", "a", "SPARC-10", "machine", ".", "It", "is", "interesting", "to", "notice", "that", "substantial", "speedups", "are", "achieved", "by", "increasing", "the", "window", "size", "up", "to", "a", "certain", "point", ".", "After", "that", "point", "-LRB-", "5", "\\", "Theta", "5", "for", "TM", "-RRB-", ",", "the", "speedups", "start", "to", "level", "off", ".", "Also", ",", "the", "TM", "data", "is", "corrected", "much", "faster", "than", "AVHRR", "data", "by", "our", "algorithm", "for", "the", "following", "reasons", ".", "First", ",", "most", "of", "the", "computations", "for", "TM", "are", "image", "based", "operations", "while", "in", "AVHRR", "they", "are", "mostly", "window", "based", "operations", ".", "Second", ",", "we", "can", "skip", "some", "of", "the", "interpolations", "for", "TM", "data", ",", "such", "as", "those", "for", "observation", "angles", ".", "It", "should", "be", "mentioned", "that", "the", "input", "for", "our", "code", "is", "raw", "data", "and", "does", "not", "need", "any", "preprocessing", ",", "while", "the", "input", "for", "the", "code", "-LSB-", "15", "-RSB-", "is", "formatted", "and", "needs", "another", "program", "to", "transform", "the", "raw", "data", "into", "the", "special", "formatted", "input", ".", "5", "Parallel", "implementation", "Atmospheric", "correction", "of", "global", "data", "sets", "requires", "the", "extensive", "handling", "of", "large", "amounts", "of", "data", "residing", "in", "external", "storage", ",", "and", "hence", "the", "optimization", "of", "the", "I/O", "time", "must", "be", "considered", "in", "addition", "to", "the", "computation", "time", ".", "We", "seek", "to", "achieve", "an", "efficient", "layout", "of", "the", "input", "imagery", "on", "the", "disks", "and", "an", "efficient", "mapping", "of", "the", "computation", "across", "the", "processors", "in", "such", "a", "way", "the", "total", "computation", "and", "I/O", "time", "is", "minimized", ".", "We", "concentrate", "first", "on", "modeling", "the", "I/O", "performance", ";", "we", "then", "give", "a", "description", "of", "the", "parallel", "algorithm", "together", "with", "its", "overall", "theoretical", "performance", "followed", "by", "experimental", "results", "on", "a", "32-node", "CM-5", ".", "Interconnection", "Network", "IOP", "IOP", "IOP", "PN", "PN", "PN", "Figure", "2", ":", "Processing", "nodes", "and", "I/O", "nodes", "are", "connected", "by", "an", "interconnection", "net-work", "5.1", "I/O", "Model", "Our", "parallel", "model", "consists", "of", "a", "number", "p", "of", "computation", "nodes", "P", "and", "a", "number", "d", "of", "I/O", "nodes", ",", "N", "0", ",", "connected", "by", "an", "interconnection", "network", "-LRB-", "Figure", "2", "-RRB-", ".", "For", "our", "purposes", ",", "we", "view", "each", "I/O", "node", "as", "holding", "a", "large", "disk", "-LRB-", "or", "a", "disk", "array", "-RRB-", ".", "Data", "are", "transferred", "into", "and", "out", "of", "external", "storage", "in", "units", "of", "blocks", ",", "each", "block", "consisting", "of", "a", "number", "b", "of", "contiguous", "records", ".", "Each", "of", "the", "d", "disks", "can", "simultaneously", "transfer", "a", "block", "into", "the", "network", ".", "Therefore", "the", "theoretical", "total", "I/O", "bandwidth", "is", "d", "times", "the", "bandwidth", "provided", "by", "a", "single", "I/O", "node", ".", "The", "actual", "bandwidth", "depends", "on", "several", "factors", "including", "the", "interconnection", "network", ",", "the", "ratio", "of", "p", "and", "d", ",", "and", "the", "network", "I/O", "interface", ".", "Most", "current", "parallel", "systems", "use", "the", "technique", "of", "disk", "striping", "in", "which", "consecutive", "blocks", "are", "stored", "on", "different", "disks", ".", "For", "our", "case", ",", "an", "n", "\\", "Theta", "n", "image", "-LRB-", "say", ",", "in", "row-major", "order", "form", "-RRB-", "will", "be", "striped", "across", "the", "d", "disks", "in", "block", "units", ".", "When", "the", "image", "is", "accessed", "in", "parallel", ",", "we", "can", "adopt", "the", "single", "disk", "model", "with", "a", "very", "large", "bandwidth", ".", "In", "the", "single", "disk", "model", ",", "the", "time", "to", "transfer", "data", "is", "the", "sum", "of", "two", "components", "t", "a", "a", "is", "the", "access", "setup", "time", ",", "N", "the", "data", "size", ",", "and", "t", "e", "the", "transfer", "time", "per", "element", ".", "Thus", "the", "I/O", "time", "depends", "essentially", "on", "the", "two", "param", "-", "eters", ",", "t", "a", "and", "t", "e", ".", "On", "a", "serial", "machine", ",", "the", "access", "setup", "time", "is", "mostly", "the", "seek", "time", "t", "s", "which", "is", "around", "20msec", "but", "on", "parallel", "machines", "it", "is", "considerably", "larger", ",", "whereas", "the", "transfer", "time", "per", "element", "is", "substantially", "smaller", "-LRB-", "inverse", "of", "total", "bandwidth", "-RRB-", ".", "In", "spite", "of", "the", "fact", "that", "t", "a", "and", "t", "e", "vary", "from", "one", "application", "to", "another", ",", "they", "can", "be", "approximated", "reasonably", "well", "by", "constants", ".", "The", "I/O", "performance", "can", "be", "estimated", "by", "using", "the", "number", "n", "p", "of", "passes", "through", "the", "data", "and", "the", "number", "n", "a", "of", "disk", "accesses", ".", "In", "this", "case", ",", "the", "total", "data", "transfer", "time", "is", "given", "by", "-LRB-", "n", "a", "\\", "Theta", "t", "a", "the", "access", "setup", "time", "is", "much", "larger", "than", "the", "transfer", "time", ",", "minimizing", "the", "number", "of", "disk", "accesses", "is", "usually", "much", "more", "important", "than", "minimizing", "the", "number", "of", "passes", ".", "For", "our", "implementation", "of", "the", "atmospheric", "correction", "algorithm", "to", "be", "discussed", "shortly", ",", "it", "is", "possible", "to", "minimize", "the", "I/O", "time", "by", "minimizing", "both", "parameters", "independently", ".", "For", "other", "problems", "-LRB-", "e.g.", ",", "matrix", "transposition", "-RRB-", ",", "it", "is", "possible", "to", "come", "up", "with", "algorithms", "that", "use", "more", "passes", "but", "requires", "less", "total", "I/O", "time", "by", "reducing", "the", "number", "of", "disk", "accesses", "-LSB-", "18", "-RSB-", ".", "A", "brief", "description", "of", "the", "CM-5", "I/O", "system", "and", "its", "relationship", "to", "our", "model", "is", "presented", "in", "Appendix", "A.", "5.2", "Parallel", "Algorithm", "We", "now", "sketch", "our", "parallel", "atmospheric", "correction", "algorithm", "and", "how", "it", "achieves", "its", "computation", "and", "I/O", "scalability", ".", "The", "algorithm", "is", "designed", "in", "the", "Single", "Program", "Multiple", "Data", "-LRB-", "SPMD", "-RRB-", "model", "using", "the", "multiblock", "PARTI", "library", ".", "Therefore", "each", "processor", "runs", "the", "same", "code", "but", "on", "different", "parts", "of", "the", "image", ".", "The", "Multiblock", "PARTI", "library", "-LSB-", "19", ",", "20", "-RSB-", "is", "a", "runtime", "support", "library", "for", "parallelizing", "application", "codes", "efficiently", "which", "provides", "a", "shared", "memory", "view", "on", "distributed", "memory", "machines", ".", "This", "makes", "our", "code", "portable", "to", "a", "large", "set", "of", "parallel", "machines", "since", "the", "library", "is", "available", "on", "the", "CM-5", ",", "the", "Intel", "iPSC/860", "and", "Paragon", ",", "the", "IBM", "SP-1", "and", "the", "PVM", "message", "passing", "environment", "for", "networks", "of", "workstations", ".", "A", "straightforward", "parallel", "implementation", "of", "the", "algorithm", "applied", "to", "each", "band", "of", "a", "N", "\\", "Theta", "N", "image", "4", "requires", "only", "one", "pass", "through", "the", "image", "and", "can", "be", "done", "as", "follows", ".", "We", "read", "a", "block", "of", "maximum", "possible", "size", ",", "-LRB-", "say", "n", "\\", "Theta", "n", "-RRB-", "of", "the", "image", "that", "can", "fit", "in", "the", "internal", "memory", "with", "corresponding", "parameters", "for", "that", "part", "of", "the", "4", "Here", "we", "have", "assumed", "that", "the", "numbers", "of", "columns", "and", "rows", "are", "equal", "for", "simplicity", ".", "The", "same", "type", "of", "analysis", "can", "be", "carried", "out", "in", "the", "more", "general", "case", ".", "image", ".", "We", "apply", "our", "atmospheric", "correction", "procedure", "on", "the", "current", "block", "and", "write", "back", "the", "results", ".", "The", "procedure", "is", "repeated", "until", "the", "entire", "image", "is", "processed", ".", "This", "method", "requires", "n", "disk", "accesses", "per", "iteration", ",", "and", "hence", "Cn", "N", "2", "disk", "per", "band", "are", "required", ",", "where", "M", "is", "the", "memory", "size", "per", "processor", "and", "C", "is", "some", "constant", ".", "However", "we", "can", "modify", "the", "algorithm", "to", "minimize", "the", "number", "of", "disk", "accesses", "as", "follows", ".", "During", "each", "iteration", ",", "instead", "of", "reading", "a", "block", ",", "we", "read", "a", "slab", "consisting", "of", "the", "maximum", "possible", "number", "-LRB-", "say", "r", "-RRB-", "of", "consecutive", "rows", "of", "the", "image", "that", "can", "fit", "in", "the", "internal", "memory", "with", "corresponding", "parameters", ".", "We", "apply", "the", "atmospheric", "correction", "procedure", "on", "the", "slab", "and", "write", "back", "the", "results", "and", "repeat", "the", "procedure", "until", "the", "entire", "image", "is", "processed", ".", "Now", "we", "need", "only", "one", "disk", "access", "per", "iteration", "and", "hence", "the", "total", "number", "of", "disk", "accesses", "is", "reduced", "to", "C", "N", "2", "MP", "which", "is", "clearly", "optimal", ".", "The", "new", "algorithm", "still", "requires", "only", "one", "pass", "through", "the", "image", "and", "therefore", "the", "total", "transfer", "time", "is", "also", "optimal", "and", "is", "given", "by", "t", "a", "Mp", "where", "b", "is", "the", "number", "of", "bands", "that", "we", "correct", "-LRB-", "b", "=", "5", "for", "TM", "and", "C", "1", "is", "the", "cost", "of", "constant", "number", "of", "disk", "accesses", "per", "pass", ",", "and", "C", "2", "is", "the", "number", "of", "bytes", "per", "pixel", "that", "we", "read", "or", "write", ".", "Given", "these", "relations", ",", "the", "I/O", "time", "can", "be", "controlled", "by", "changing", "the", "number", "of", "processors", "and", "the", "number", "of", "disk", "I/O", "nodes", ".", "In", "our", "algorithm", ",", "interprocessor", "communication", "is", "only", "introduced", "by", "the", "possibility", "of", "partitioning", "windows", "across", "processors", ".", "This", "can", "be", "eliminated", "by", "replacing", "r", "with", "r", "w", ":p", "c", "\\", "Theta", "w", "\\", "Theta", "p", ".", "This", "can", "be", "done", "only", "if", "at", "least", "w", "rows", "can", "fit", "in", "the", "internal", "memory", "of", "each", "processor", ",", "which", "is", "a", "realistic", "assumption", "for", "all", "reasonable", "values", "of", "w", "-LRB-", "i.e.", "-", "500", "-RRB-", ".", "The", "computation", "time", "for", "both", "TM", "and", "AVHRR", "can", "be", "estimated", "by", "where", "C", "3", ",", "C", "4", "and", "C", "5", "are", "some", "machine", "dependent", "constants", ".", "In", "fact", "C", "3", "is", "the", "required", "time", "for", "image", "based", "computations", ",", "C", "4", "is", "the", "required", "time", "per", "window", "for", "window", "based", "operations", "and", "C", "5", "is", "the", "required", "time", "per", "pixel", "for", "pixel", "based", "operations", ".", "These", "constants", "can", "be", "accurately", "estimated", "for", "a", "given", "machine", ".", "As", "an", "example", ",", "for", "TM", "data", "on", "CM-5", ",", "C", "3", "-", "26sec", ",", "C", "4", "-", "62-sec", ",", "and", "C", "5", "-", "18-sec", ".", "Note", "that", "C", "3", "includes", "the", "I/O", "time", "for", "reading", "all", "the", "look-up", "tables", ".", "These", "numbers", "are", "valid", "for", "large", "data", "and", "agree", "with", "the", "observed", "experimental", "results", ".", "Summarizing", ",", "the", "total", "time", "is", "given", "by", "Mp", "d", "The", "above", "performance", "analysis", "indicate", "that", "our", "algorithm", "is", "scalable", "in", "terms", "of", "the", "parameters", "p", ",", "M", ",", "and", "d", "because", "for", "each", "term", "with", "N", "in", "the", "numerator", "we", "have", "or", "d", "in", "the", "denominator", ".", "Also", ",", "for", "a", "desired", "value", "of", "T", "total", ",", "we", "can", "derive", "the", "number", "of", "processors", "and", "the", "number", "d", "of", "disk", "I/O", "nodes", "to", "achieve", "this", ".", "Image", "Size", "-LRB-", "M", "Pixel", "-RRB-", "-LRB-", "sec", "-RRB-", "Figure", "3", ":", "Atmospheric", "correction", "performance", "of", "TM", "imagery", "on", "CM-5", ",", "for", "different", "image", "sizes", ",", "two", "window", "sizes", ",", "and", "a", "different", "number", "of", "processors", ".", "The", "results", "of", "running", "our", "code", "on", "a", "32-node", "CM-5", "are", "illustrated", "in", "Figure", "3", ".", "The", "figure", "shows", "the", "total", "time", "in", "seconds", "for", "different", "image", "sizes", ",", "two", "window", "sizes", "and", "a", "different", "number", "of", "processors", ".", "We", "have", "used", "the", "least", "squares", "approximation", "to", "smooth", "the", "curves", ",", "but", "we", "have", "also", "included", "the", "real", "data", "for", "one", "of", "the", "cases", "\\", "Theta", "5", "on", "16", "processors", "-RRB-", "to", "show", "the", "linearity", "of", "the", "experimental", "data", ".", "These", "experimental", "results", "are", "consistent", "with", "the", "analysis", "carried", "out", "in", "our", "model", ".", "From", "the", "graph", ",", "the", "running", "time", "scales", "properly", "with", "the", "image", "size", "and", "with", "the", "number", "of", "processors", "for", "different", "window", "sizes", ".", "6", "Case", "Study", "The", "application", "of", "our", "algorithm", "on", "a", "real", "TM", "imagery", "is", "presented", "in", "this", "section", ".", "Figure", "4", "shows", "a", "subset", "of", "TM", "image", "bands", "1", ",", "3", ",", "and", "7", "acquired", "on", "Aug.", "17", ",", "1989", "in", "Amazon", "Basin", "area", ".", "As", "we", "can", "see", ",", "a", "large", "portion", "of", "the", "image", "in", "bands", "1", "and", "3", "in", "the", "middle", "is", "occupied", "by", "hazy", "aerosols", "and", "thin", "clouds", "but", "band", "7", "is", "less", "contaminated", "because", "it", "is", "in", "large", "wavelengths", "and", "scattering", "effect", "is", "negligible", ".", "In", "order", "to", "remove", "the", "aerosol", "contamination", ",", "the", "first", "step", "is", "to", "implement", "the", "so-called", "``", "dark-object", "''", "approach", "to", "estimate", "aerosol", "optical", "depth", "using", "band", "7", ".", "We", "developed", "a", "preliminary", "program", "which", "estimates", "the", "aerosol", "optical", "depth", "for", "TM", "images", "and", "applied", "it", "to", "the", "mentioned", "image", "5", ".", "After", "having", "obtained", "aerosol", "optical", "depth", "for", "each", "channel", ",", "the", "surface", "reflectance", "is", "retrieved", "using", "the", "new", "atmospheric", "correction", "algorithm", "described", "in", "Section", "5", ".", "The", "retrieved", "reflectance", "is", "shown", "in", "Figure", "4", ".", "It", "is", "evident", "that", "most", "of", "hazy", "aerosols", "in", "channels", "1", "and", "3", "have", "been", "removed", ".", "Also", "it", "is", "interesting", "to", "see", "that", "the", "corrected", "channel", "3", "looks", "even", "more", "clear", "than", "channel", "7", ".", "The", "retrieved", "5", "Details", "of", "this", "algorithm", "will", "be", "published", "after", "validation", ".", "Band", "1", ",", "Before", "Correction", "Band", "1", ",", "After", "Correction", "Band", "3", ",", "Before", "Correction", "Band", "3", ",", "After", "Correction", "Band", "7", "Figure", "4", ":", "TM", "imagery", "-LRB-", "512", "\\", "Theta", "512", "-RRB-", ".", "surface", "reflectance", "underneath", "the", "hazy", "aerosols", "will", "be", "further", "evaluated", "with", "the", "knowledge", "of", "the", "ground", "truth", ".", "7", "Conclusion", "We", "have", "introduced", "a", "number", "of", "techniques", "to", "obtain", "a", "very", "efficient", "atmospheric", "correction", "algorithm", "based", "on", "the", "look-up", "table", "approach", ".", "As", "a", "result", "our", "algorithm", "can", "correct", "all", "5", "bands", "of", "a", "TM", "image", ",", "covering", "an", "area", "of", "size", "180km", "\\", "Theta", "180km", ",", "in", "less", "than", "13", "minutes", "on", "a", "SPARC-10", "machine", "-LRB-", "excluding", "I/O", "-RRB-", ".", "A", "parallel", "version", "of", "the", "algorithm", "that", "is", "scalable", "in", "terms", "of", "the", "number", "of", "processors", ",", "the", "number", "of", "I/O", "nodes", ",", "and", "the", "size", "of", "internal", "memory", ",", "was", "also", "described", "and", "analyzed", ".", "Experimental", "results", "on", "a", "32-node", "CM-5", "machine", "are", "provided", ".", "This", "work", "constitutes", "a", "part", "of", "a", "large", "multidisciplinary", "grand", "challenge", "project", "on", "applying", "high", "performance", "computing", "to", "land", "cover", "dynamics", ".", "Other", "aspects", "include", "parallel", "algorithms", "and", "systems", "for", "image", "processing", "and", "spatial", "data", "handling", "with", "emphasis", "on", "object", "oriented", "programming", "and", "parallel", "I/O", "of", "large", "scale", "images", "and", "maps", ".", "Acknowledgment", "We", "thank", "Dr.", "Alan", "Sussman", "for", "helping", "us", "in", "using", "multiblock", "PARTI", "library", ".", "Ms.", "Shana", "Mattoo", "provided", "the", "original", "NASA", "code", "described", "in", "-LSB-", "15", "-RSB-", "and", "have", "answered", "many", "of", "our", "questions", "regarding", "the", "atmospheric", "correction", "algorithm", "based", "on", "look-up", "tables", ".", "Her", "help", "is", "greatly", "appreciated", ".", "Also", ",", "thanks", "to", "Professor", "Ralph", "Dubayah", "for", "providing", "comments", "regarding", "this", "project", ".", "--", "R", "Representation", "of", "vegetation", "by", "continental", "data", "set", "derived", "from", "NOAA-AVHRR", "data", "Global", "datasets", "for", "land", "applications", "from", "the", "Advanced", "Very", "High", "Resolution", "Radiometer", ":", "an", "introduction", "The", "atmospheric", "effect", "on", "remote", "sensing", "and", "its", "correction", "The", "relative", "importance", "of", "scattering", "and", "absorption", "in", "remote", "sensing", "The", "effect", "of", "the", "atmosphere", "on", "classification", "of", "satellite", "observations", "to", "identify", "surface", "features", "London", ":", "Oxford", "University", "Press", "Remote", "sensing", "of", "aerosol", "over", "the", "continents", ":", "Dark", "targets", "identified", "by", "the", "2.2", "um", "channel", "Aerosols", "retrieval", "over", "land", "from", "AVHRR", "data", "-", "Application", "for", "atmospheric", "correction", "Size", "distribution", "and", "scattering", "phase", "function", "of", "aerosol", "particles", "retrieved", "from", "sky", "brightness", "measurements", "Calculation", "of", "the", "angular", "radiance", "distribution", "for", "a", "coupled", "atmosphere", "and", "canopy", "Algorithm", "for", "atmospheric", "corrections", "of", "aircraft", "and", "satellite", "imagery", "Thematic", "Mapper", "data", ":", "Characteristics", "and", "use", "A", "long", "term", "data", "set", "for", "global", "terrestrial", "observations", ":", "Report", "of", "the", "AVHRR", "Pathfinder", "Land", "Science", "Working", "Group", "Efficient", "Transposition", "algorithms", "for", "large", "Matrices", "Compiler", "and", "runtime", "support", "for", "structured", "and", "block", "structured", "applications", "A", "manual", "for", "the", "multiblock", "PARTI", "runtime", "primitives", "version", "4", "Connection", "Machine", "CM-5", "Technical", "Summary", "--", "TR", "A", "manual", "for", "the", "multiblock", "PARTI", "runtime", "primitives", "revision", "4", "Compiler", "and", "runtime", "support", "for", "structured", "and", "block", "structured", "applications" ]

[ "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "--", "T", "Weakly", "Hard", "Problems", ".", "--", "A", "A", "weak", "completeness", "phenomenon", "is", "investigated", "in", "the", "complexity", "class", "$", "-LCB-", "\\", "rm", "E", "-RCB-", "=", "-LCB-", "\\", "rm", "DTIME", "-RCB-", "-LRB-", "2", "^", "-LCB-", "\\", "rm", "linear", "-RCB-", "-RRB-", "$", ".", "According", "to", "standard", "terminology", ",", "a", "language", "$", "H$", "is", "$", "\\", "leq", "^", "-LCB-", "\\", "rm", "P", "-RCB-", "_", "-LCB-", "m", "-RCB-", "$", "-", "hard", "for", "E", "if", "the", "set", "$", "-LCB-", "\\", "rm", "P", "-RCB-", "_", "-LCB-", "m", "-RCB-", "-LRB-", "H", "-RRB-", "$", ",", "consisting", "of", "all", "languages", "$", "A", "\\", "leq", "^", "-LCB-", "\\", "rm", "P", "-RCB-", "_", "-LCB-", "m", "-RCB-", "H$", ",", "contains", "the", "entire", "class", "E", ".", "A", "language", "$", "C$", "is", "$", "\\", "leq", "^", "-LCB-", "\\", "rm", "P", "-RCB-", "_", "-LCB-", "m", "-RCB-", "$", "-", "complete", "for", "E", "if", "it", "is", "$", "\\", "leq", "^", "-LCB-", "\\", "rm", "P", "-RCB-", "_", "-LCB-", "m", "-RCB-", "$", "-", "hard", "for", "E", "and", "is", "also", "an", "element", "of", "E.", "Generalizing", "this", ",", "a", "language", "$", "H$", "is", "weakly", "$", "\\", "leq", "^", "-LCB-", "\\", "rm", "P", "-RCB-", "_", "-LCB-", "m", "-RCB-", "$", "-", "hard", "for", "E", "if", "the", "set", "$", "-LCB-", "\\", "rm", "P", "-RCB-", "_", "-LCB-", "m", "-RCB-", "-LRB-", "H", "-RRB-", "$", "does", "not", "have", "measure", "0", "in", "E", ".", "A", "language", "$", "C$", "is", "weakly", "$", "\\", "leq", "^", "-LCB-", "\\", "rm", "P", "-RCB-", "_", "-LCB-", "m", "-RCB-", "$", "-", "complete", "for", "E", "if", "it", "is", "weakly", "$", "\\", "leq", "^", "-LCB-", "\\", "rm", "P", "-RCB-", "_", "-LCB-", "m", "-RCB-", "$", "-", "hard", "for", "E", "and", "is", "also", "an", "element", "of", "E", ".", "The", "main", "result", "of", "this", "paper", "is", "the", "construction", "of", "a", "language", "that", "is", "weakly", "$", "\\", "leq", "^", "-LCB-", "\\", "rm", "P", "-RCB-", "_", "-LCB-", "m", "-RCB-", "$", "-", "complete", ",", "but", "not", "$", "\\", "leq", "^", "-LCB-", "\\", "rm", "P", "-RCB-", "_", "-LCB-", "m", "-RCB-", "$", "-", "complete", ",", "for", "E", ".", "The", "existence", "of", "such", "languages", "implies", "that", "previously", "known", "strong", "lower", "bounds", "on", "the", "complexity", "of", "weakly", "$", "\\", "leq", "^", "-LCB-", "\\", "rm", "P", "-RCB-", "_", "-LCB-", "m", "-RCB-", "$", "-", "hard", "problems", "for", "E", "-LRB-", "given", "by", "work", "of", "Lutz", ",", "Mayordomo", ",", "and", "Juedes", "-RRB-", "are", "indeed", "more", "general", "than", "the", "corresponding", "bounds", "for", "$", "\\", "leq", "^", "-LCB-", "\\", "rm", "P", "-RCB-", "_", "-LCB-", "m", "-RCB-", "$", "-", "hard", "problems", "for", "E", ".", "The", "proof", "of", "this", "result", "introduces", "a", "new", "diagonalization", "method", ",", "called", "martingale", "diagonalization", ".", "Using", "this", "method", ",", "one", "simultaneously", "develops", "an", "infinite", "family", "of", "polynomial", "time", "computable", "martingales", "-LRB-", "betting", "strategies", "-RRB-", "and", "a", "corresponding", "family", "of", "languages", "that", "defeat", "these", "martingales", "-LRB-", "prevent", "them", "from", "winning", "too", "much", "money", "-RRB-", "while", "also", "pursuing", "another", "agenda", ".", "Martingale", "diagonalization", "may", "be", "useful", "for", "a", "variety", "of", "applications", ".", "--", "B", "Introduction", "In", "practice", "to", "date", ",", "proving", "that", "a", "decision", "problem", "-LRB-", "i.e.", ",", "language", "-RRB-", "H", "'", "f0", ";", "1g", "is", "computationally", "intractable", "usually", "amounts", "to", "proving", "that", "every", "member", "of", "the", "complexity", "class", "linear", "-RRB-", "-", "or", "some", "larger", "class", "-", "is", "efficiently", "reducible", "to", "H.", "-LRB-", "See", "-LSB-", "25", "-RSB-", "for", "a", "survey", "of", "such", "arguments", ".", "-RRB-", "For", "example", ",", "some", "problems", "involving", "the", "existence", "of", "winning", "strategies", "for", "certain", "two-person", "combinatorial", "games", "are", "known", "to", "be", "intractable", "because", "they", "are", "polynomial", "time", "many-one", "hard", "-LRB-", "in", "fact", ",", "logarithmic", "space", "many-one", "Briefly", ",", "a", "language", "H", "is", "polynomial", "time", "many-one", "hard", "-LRB-", "abbreviated", "-", "P", "hard", "-RRB-", "for", "E", "if", "every", "language", "A", "2", "E", "is", "polynomial", "time", "many-one", "reducible", "to", "H", "-LRB-", "abbreviated", "A", "-", "P", "H", "-RRB-", ".", "A", "language", "C", "is", "-", "P", "and", "C", "is", "-", "P", "m", "-", "hard", "for", "E", ".", "A", "language", "H", "that", "is", "-", "P", "m", "-", "hard", "for", "E", "is", "clearly", "intractable", "in", "the", "sense", "that", "H", "is", "not", "decidable", "in", "polynomial", "time", ".", "This", "is", "because", "a", "well-known", "diagonalization", "argument", "-LSB-", "3", "-RSB-", "shows", "that", "there", "is", "a", "language", "must", "be", "the", "case", "that", "B", "-", "P", "follows", "that", "P", ".", "In", "fact", ",", "languages", "that", "are", "-", "P", "m", "-", "hard", "for", "E", "are", "known", "to", "have", "much", "stronger", "intractability", "properties", ".", "Three", "examples", "follow", ".", "Meyer", "-LSB-", "15", "-RSB-", "has", "shown", "that", "every", "-", "P", "-", "hard", "language", "H", "for", "E", "is", "dense", ".", "This", "means", "that", "there", "is", "a", "real", "number", "''", "?", "0", "such", "that", ",", "for", "all", "sufficiently", "large", "n", ",", "H", "contains", "at", "least", "2", "strings", "x", "2", "f0", ";", "1g", "-", "n", ".", "Sch-oning", "-LSB-", "23", "-RSB-", "and", "Huynh", "-LSB-", "6", "-RSB-", "have", "shown", "that", "every", "-", "P", "-", "hard", "language", "H", "for", "E", "is", "hard", "to", "approximate", "in", "the", "sense", "that", ",", "for", "every", "language", "A", "2", "P", ",", "the", "symmetric", "difference", "A", "4", "H", "is", "dense", ".", "-LRB-", "Note", "that", "this", "immediately", "implies", "result", "-LRB-", "A", "-RRB-", "above", ".", "-RRB-", "-LRB-", "C", "-RRB-", "Orponen", "and", "Sch-oning", "-LSB-", "16", "-RSB-", "have", "shown", "that", "every", "-", "P", "-", "hard", "language", "H", "for", "E", "has", "a", "dense", "polynomial", "complexity", "core", "K", ".", "This", "condition", ",", "defined", "precisely", "in", "section", "2", "below", ",", "means", "roughly", "that", "K", "is", "dense", "and", "that", "every", "Turing", "machine", "that", "is", "consistent", "with", "H", "performs", "badly", "-LRB-", "either", "by", "running", "for", "more", "than", "polynomially", "many", "steps", "or", "by", "failing", "to", "decide", "-RRB-", "on", "all", "but", "finitely", "many", "inputs", "x", "2", "K", ".", "In", "fact", ",", "the", "proofs", "of", "results", "-LRB-", "A", "-RRB-", ",", "-LRB-", "B", "-RRB-", ",", "and", "-LRB-", "C", "-RRB-", "all", "have", "the", "same", "overall", "structure", "as", "the", "proof", "that", "no", "-", "P", "-", "hard", "language", "H", "for", "E", "is", "in", "P", ".", "In", "each", "case", ",", "a", "``", "very", "intractable", "''", "language", "exhibited", "by", "diagonalization", ".", "This", "intractability", "of", "B", ",", "together", "with", "the", "fact", "that", "B", "-", "P", "H", ",", "is", "then", "shown", "to", "imply", "the", "appropriate", "intractability", "property", "for", "H", ".", "At", "this", "time", ",", "it", "appears", "likely", "that", "most", "interesting", "intractable", "problems", "are", "not", "-", "P", "m", "-", "hard", "for", "E", "or", "larger", "classes", ".", "Insofar", "as", "this", "is", "true", ",", "results", "such", "as", "-LRB-", "A", "-RRB-", ",", "-LRB-", "B", "-RRB-", ",", "and", "-LRB-", "C", "-RRB-", "above", "fail", "to", "have", "interesting", "cases", ".", "Lutz", "-LSB-", "9", "-RSB-", "proposed", "to", "remedy", "this", "limitation", "by", "weakening", "the", "requirement", "that", "H", "be", "-", "P", "for", "E", "in", "such", "results", ".", "To", "be", "more", "specific", ",", "given", "a", "language", "H", ",", "the", "-", "P", "m", "-", "span", "of", "H", "-LRB-", "also", "called", "the", "lower", "-", "P", "m", "-", "span", "of", "H", "-LSB-", "7", "-RSB-", "-RRB-", "is", "the", "set", "Pm", "A", "'", "f0", ";", "1g", "consisting", "of", "all", "languages", "that", "are", "polynomial", "time", "many-one", "reducible", "to", "H", ".", "The", "language", "H", "is", "-", "P", "if", "Pm", "-LRB-", "H", "-RRB-", "contains", "all", "of", "the", "complexity", "class", "E.", "Lutz", "-LSB-", "9", "-RSB-", "proposed", "consideration", "of", "weaker", "hypotheses", ",", "stating", "only", "that", "Pm", "-LRB-", "H", "-RRB-", "contains", "a", "non-negligible", "subset", "of", "E", ".", "The", "expression", "``", "non-negligible", "subset", "of", "E", "''", "can", "be", "assigned", "two", "useful", "meanings", ",", "one", "in", "terms", "of", "resource-bounded", "category", "-LSB-", "9", "-RSB-", "and", "the", "other", "in", "terms", "of", "resource-bounded", "measure", "-LSB-", "10", ",", "8", "-RSB-", ".", "-LRB-", "Caution", ":", "Resource-bounded", "measure", "was", "incorrectly", "formulated", "in", "-LSB-", "9", "-RSB-", ".", "The", "present", "paper", "refers", "only", "to", "the", "corrected", "formulation", ",", "in", "terms", "of", "martingales", ",", "presented", "in", "-LSB-", "10", ",", "8", "-RSB-", "and", "discussed", "briefly", "in", "section", "3", "below", ".", "-RRB-", "Resource-bounded", "category", ",", "a", "complexity-theoretic", "generalization", "of", "classical", "Baire", "category", "-LSB-", "17", "-RSB-", ",", "led", "to", "an", "extension", "of", "result", "-LRB-", "B", "-RRB-", "above", "in", "-LSB-", "9", "-RSB-", ".", "Work", "since", "-LSB-", "9", "-RSB-", "has", "focused", "instead", "on", "resource-bounded", "measure", ".", "Resource-bounded", "measure", "is", "a", "generalization", "of", "classical", "Lebesgue", "measure", "-LSB-", "2", ",", "18", ",", "17", "-RSB-", ".", "As", "such", ",", "it", "has", "Lebesgue", "measure", "as", "a", "special", "case", ",", "but", "other", "special", "cases", "provide", "internal", "measures", "for", "various", "complexity", "classes", ".", "This", "paper", "concerns", "the", "special", "case", "of", "measure", "in", "the", "complexity", "class", "E", ".", "In", "par", "-", "ticular", ",", "resource-bounded", "measure", "defines", "precisely", "what", "it", "means", "for", "a", "set", "X", "of", "languages", "to", "have", "measure", "0", "in", "E", ".", "This", "condition", ",", "written", "-", "-LRB-", "X", "j", "E", "-RRB-", "=", "0", ",", "means", "intuitively", "that", "negligibly", "small", "subset", "of", "E.", "-LRB-", "This", "intuition", "is", "justified", "technically", "in", "-LSB-", "10", "-RSB-", "and", "in", "section", "3", "below", ".", "-RRB-", "A", "set", "Y", "of", "languages", "has", "measure", "1", "in", "E", ",", "written", "-", "-LRB-", "Y", "the", "complement", "of", "Y", ".", "In", "this", "latter", "case", ",", "Y", "is", "said", "to", "contain", "almost", "every", "language", "in", "E", ".", "It", "is", "emphasized", "here", "that", "not", "every", "set", "X", "of", "languages", "has", "a", "measure", "-LRB-", "``", "is", "measurable", "''", "-RRB-", "in", "E", ".", "In", "particular", ",", "the", "expression", "''", "-", "-LRB-", "X", "j", "E", "-RRB-", "6", "=", "0", "''", "only", "means", "that", "X", "does", "not", "have", "measure", "0", "in", "E", ".", "It", "does", "not", "necessarily", "imply", "that", "X", "has", "some", "other", "measure", "in", "E.", "Generalizing", "the", "notion", "of", "-", "P", "-", "hardness", "for", "E", ",", "say", "that", "a", "language", "H", "is", "weakly", "-", "P", "E", "-RRB-", "6", "=", "0", ",", "i.e.", ",", "if", "Pm", "-LRB-", "H", "-RRB-", "does", "not", "have", "measure", "0", "in", "E.", "Similarly", ",", "say", "that", "a", "language", "C", "is", "weakly", "-", "P", "m", "-", "complete", "for", "m", "-", "hard", "for", "E", ".", "Since", "E", "does", "not", "have", "measure", "0", "in", "E", "-LSB-", "10", "-RSB-", ",", "it", "is", "clear", "that", "every", "-", "P", "-", "hard", "language", "for", "E", "is", "weakly", "-", "P", "m", "-", "hard", "for", "E", ",", "and", "hence", "that", "every", "-", "P", "-", "complete", "language", "for", "E", "is", "weakly", "-", "P", "for", "E", ".", "The", "following", "extensions", "of", "results", "-LRB-", "A", "-RRB-", ",", "-LRB-", "B", "-RRB-", ",", "and", "-LRB-", "C", "-RRB-", "above", "are", "now", "known", ".", "have", "shown", "that", "every", "weakly", "-", "P", "-", "hard", "language", "language", "for", "E", ",", "for", "ff", "!", "1", "-RRB-", "is", "dense", ".", "The", "method", "of", "-LSB-", "11", "-RSB-", "extends", "in", "a", "straightforward", "matter", "to", "show", "that", ",", "for", "every", "weakly", "-", "P", "-", "hard", "language", "H", "for", "E", "and", "every", "language", "A", "2", "P", ",", "the", "symmetric", "difference", "A4H", "is", "dense", ".", "have", "shown", "that", "every", "weakly", "-", "P", "-", "hard", "language", "H", "for", "E", "has", "a", "dense", "exponential", "complexity", "core", "K.", "-LRB-", "This", "condition", ",", "defined", "in", "section", "2", ",", "implies", "immediately", "that", "K", "is", "a", "dense", "polynomial", "complexity", "core", "of", "H.", "-RRB-", "extend", "the", "strong", "intractability", "results", "-LRB-", "A", "-RRB-", ",", "-LRB-", "B", "-RRB-", ",", "and", "-LRB-", "C", "-RRB-", "from", "-", "P", "-", "hard", "languages", "for", "E", "to", "weakly", "-", "P", "-", "hard", "languages", "for", "This", "extends", "the", "class", "of", "problems", "to", "which", "well-understood", "lower", "bound", "techniques", "can", "be", "applied", ",", "unless", "every", "weakly", "-", "P", "-", "hard", "language", "for", "E", "is", "m", "-", "hard", "for", "E.", "Surprisingly", ",", "although", "-", "hardness", "appears", "to", "be", "a", "weaker", "hypothesis", "than", "-", "P", "m", "-", "hardness", ",", "this", "has", "not", "been", "proven", "to", "date", ".", "The", "present", "paper", "remedies", "this", "situation", ".", "In", "fact", ",", "the", "Main", "Theorem", ",", "in", "section", "4", "below", ",", "says", "that", "there", "exist", "languages", "that", "are", "weakly", "-", "P", "but", "not", "-", "P", "m", "-", "complete", ",", "for", "E", ".", "It", "follows", "that", "results", "indeed", "extend", "the", "class", "of", "problems", "for", "which", "strong", "intractability", "results", "can", "be", "proven", ".", "The", "Main", "Theorem", "is", "proven", "by", "means", "of", "a", "new", "diagonalization", "method", ",", "called", "martingale", "diagonalization", ".", "This", "method", "involves", "the", "simultaneous", "construction", ",", "by", "a", "mutual", "recursion", ",", "of", "-LRB-", "i", "-RRB-", "an", "infinite", "sequence", "of", "polynomial", "time", "computable", "martingales", "-LRB-", "betting", "strategies", "-RRB-", ";", "and", "-LRB-", "ii", "-RRB-", "a", "corresponding", "sequence", "of", "languages", "that", "defeat", "these", "martingales", "-LRB-", "prevent", "them", "from", "winning", "too", "much", "money", "-RRB-", ",", "while", "also", "pursuing", "another", "agenda", ".", "The", "interplay", "between", "these", "two", "constructions", "ensures", "that", "the", "sequence", "of", "languages", "in", "-LRB-", "ii", "-RRB-", "can", "be", "used", "to", "construct", "a", "language", "that", "is", "weakly", "-", "P", "m", "-", "complete", ",", "but", "not", "m", "-", "complete", "for", "E.", "Martingale", "diagonalization", "may", "turn", "out", "to", "be", "useful", "for", "a", "variety", "of", "applications", ".", "The", "proof", "of", "the", "Main", "Theorem", "also", "makes", "essential", "use", "of", "a", "recent", "theorem", "of", "Juedes", "and", "Lutz", "-LSB-", "7", "-RSB-", ",", "which", "gives", "a", "nontrivial", "upper", "bound", "on", "the", "complexities", "of", "-", "P", "-", "hard", "languages", "for", "E.", "Section", "2", "presents", "basic", "notation", "and", "definitions", ".", "Section", "3", "provides", "definitions", "and", "basic", "properties", "of", "feasible", "-LRB-", "polynomial", "time", "computable", "-RRB-", "mar", "-", "tingales", ",", "uses", "these", "to", "define", "measure", "in", "E", ",", "and", "proves", "a", "new", "result", ",", "the", "Rigid", "Enumeration", "Theorem", ".", "This", "result", "provides", "a", "uniform", "enumeration", "of", "feasible", "martingales", "that", "is", "crucial", "for", "the", "martingale", "diagonalization", "method", ".", "Section", "4", "is", "devoted", "entirely", "to", "the", "Main", "Theorem", "and", "its", "proof", ".", "Section", "5", "briefly", "discusses", "directions", "for", "future", "work", ",", "with", "particular", "emphasis", "on", "the", "search", "for", "natural", "problems", "that", "are", "weakly", "-", "P", "m", "-", "hard", "for", "E.", "Preliminaries", "All", "languages", "-LRB-", "synonymously", ",", "decision", "problems", "-RRB-", "in", "this", "paper", "are", "sets", "of", "binary", "strings", ",", "i.e.", ",", "sets", "A", "'", "f0", ";", "1g", ".", "The", "standard", "enumeration", "of", "f0", ";", "1g", "is", "the", "infinite", "sequence", "in", "which", "strings", "appear", "first", "in", "order", "of", "length", ",", "then", "in", "lexicographic", "or", "-", "der", ".", "The", "symbol", "-", "denotes", "the", "empty", "string", "and", "the", "expression", "jwj", "denotes", "the", "length", "of", "a", "string", "w", "2", "f0", ";", "1g", ".", "It", "is", "convenient", "to", "write", "the", "standard", "enumeration", "in", "the", "form", "That", "is", ",", "for", "each", "n", "2", "N", ",", "n", "is", "the", "n", "th", "string", "-LRB-", "counting", "from", "0", "-RRB-", "in", "the", "standard", "enumeration", "of", "f0", ";", "1g", ".", "Thus", ",", "that", "jnj", "denotes", "the", "length", "of", "the", "n", "th", "string", "in", "f0", ";", "1g", ".", "The", "Boolean", "value", "of", "a", "condition", "/", "is", "ae", "1", "if", "/", "is", "true", "if", "/", "is", "false", ".", "Each", "language", "A", "'", "f0", ";", "1g", "is", "identified", "with", "its", "characteristic", "sequence", ",", "which", "is", "the", "infinite", "binary", "sequence", "The", "expression", "-", "A", "denotes", "the", "string", "consisting", "of", "the", "first", "n", "bits", "of", "-", "A", ".", "This", "paper", "uses", "the", "standard", "pairing", "function", "\\", "Gamma", "!", "onto", "defined", "by", "for", "all", "k", ";", "n", "2", "N", ".", "This", "pairing", "function", "induces", "the", "pairing", "function", "\\", "Gamma", "!", "onto", "defined", "in", "the", "obvious", "way", ",", "i.e.", ",", "hk", ";", "ni", "is", "the", "hk", ";", "ni", "th", "string", "in", "the", "standard", "enumeration", "of", "f0", ";", "1g", ".", "Note", "that", "jhk", ";", "nij", "-", "2", "-LRB-", "jkj", "As", "noted", "in", "section", "1", ",", "a", "language", "A", "'", "f0", ";", "1g", "is", "dense", "if", "there", "is", "a", "real", "sufficiently", "large", "n", ",", "A", "contains", "at", "least", "2", "strings", "x", "2", "f0", ";", "1g", "-", "n", ".", "Given", "a", "function", "t", "N", ",", "the", "complexity", "class", "DTIME", "-LRB-", "t", "-LRB-", "n", "-RRB-", "-RRB-", "consists", "of", "every", "language", "A", "'", "f0", ";", "1g", "such", "that", "-LSB-", "-LSB-", "x", "2", "A", "-RSB-", "-RSB-", "is", "computable", "-LRB-", "by", "a", "deterministic", "Turing", "machine", "-RRB-", "in", "O", "-LRB-", "t", "-LRB-", "jxj", "-RRB-", "-RRB-", "steps", ".", "Similarly", ",", "the", "complexity", "class", "consists", "of", "every", "function", "f", ":", "f0", ";", "1g", "!", "f0", ";", "1g", "such", "that", "f", "-LRB-", "x", "-RRB-", "is", "computable", "in", "O", "-LRB-", "t", "-LRB-", "jxj", "-RRB-", "-RRB-", "steps", ".", "The", "complexity", "classes", "are", "of", "particular", "interest", "in", "this", "paper", ".", "A", "language", "A", "is", "polynomial", "time", "many-one", "reducible", "to", "a", "language", "B", ",", "B", ",", "if", "there", "is", "a", "function", "f", "2", "PF", "such", "that", "for", "all", "x", "2", "f0", ";", "1g", ",", "x", "2", "A", "-LRB-", "-RRB-", "f", "-LRB-", "x", "-RRB-", "2", "B.", "Complexity", "cores", ",", "first", "introduced", "by", "Lynch", "-LSB-", "13", "-RSB-", ",", "have", "been", "studied", "ex", "-", "tensively", ".", "The", "rest", "of", "this", "section", "specifies", "the", "notions", "of", "complexity", "cores", "mentioned", "in", "section", "1", ".", "Given", "a", "-LRB-", "deterministic", "Turing", "-RRB-", "machine", "M", "and", "an", "input", "x", "2", "f0", ";", "1g", ",", "accepts", "x", "rejects", "x", "?", "in", "any", "other", "case", ".", "If", "M", "-LRB-", "x", "-RRB-", "2", "f0", ";", "1g", ",", "then", "timeM", "-LRB-", "x", "-RRB-", "denotes", "the", "number", "of", "steps", "used", "in", "the", "computation", "of", "M", "-LRB-", "x", "-RRB-", ".", "If", "machine", "M", "is", "consistent", "with", "a", "language", "A", "if", "1g", ".", "!", "N", "be", "a", "time", "bound", "and", "let", "A", ";", "K", "'", "f0", ";", "1g", ".", "Then", "K", "is", "a", "DTIME", "-LRB-", "t", "-LRB-", "n", "-RRB-", "-RRB-", "-", "complexity", "core", "of", "A", "if", ",", "for", "every", "c", "2", "N", "and", "every", "machine", "M", "that", "is", "consistent", "with", "A", ",", "the", "``", "fast", "set", "''", "has", "finite", "intersection", "with", "K.", "-LRB-", "By", "the", "definition", "of", "timeM", "-LRB-", "x", "-RRB-", ",", "M", "-LRB-", "x", "-RRB-", "2", "f0", ";", "1g", "for", "all", "x", "2", "F", ".", "Thus", "F", "is", "the", "set", "of", "all", "strings", "that", "M", "``", "decides", "efficiently", ".", "''", "-RRB-", "Note", "that", "every", "subset", "of", "a", "DTIME", "-LRB-", "t", "-LRB-", "n", "-RRB-", "-RRB-", "-", "complexity", "core", "of", "A", "is", "a", "DTIME", "-LRB-", "t", "-LRB-", "n", "-RRB-", "-RRB-", "-", "complexity", "core", "of", "A.", "Note", "also", "that", ",", "if", "every", "DTIME", "-LRB-", "t", "-LRB-", "n", "-RRB-", "-RRB-", "-", "complexity", "core", "of", "A", "is", "a", "DTIME", "-LRB-", "s", "-LRB-", "n", "-RRB-", "-RRB-", "-", "complexity", "core", "of", "A.", "1", ".", "K", "is", "a", "polynomial", "complexity", "core", "of", "A", "if", "K", "is", "a", "DTIME", "-LRB-", "n", "k", "-RRB-", "-", "complexity", "core", "of", "A", "for", "all", "k", "2", "N.", "2", ".", "K", "is", "an", "exponential", "complexity", "core", "of", "A", "if", "there", "is", "a", "real", "number", "ffl", "?", "0", "such", "that", "K", "is", "a", "DTIME", "-LRB-", "2", "n", "ffl", "-RRB-", "-", "complexity", "core", "of", "A.", "Intuitively", ",", "a", "P-complexity", "core", "of", "A", "is", "a", "set", "of", "infeasible", "instances", "of", "A", ",", "while", "an", "exponential", "complexity", "core", "of", "A", "is", "a", "set", "of", "extremely", "hard", "instances", "of", "A.", "3", "Feasible", "Martingales", "This", "section", "presents", "some", "basic", "properties", "of", "martingales", "-LRB-", "betting", "strate", "-", "gies", "-RRB-", "that", "are", "computable", "in", "polynomial", "time", ".", "Such", "martingales", "are", "used", "to", "develop", "a", "fragment", "of", "resource-bounded", "measure", "that", "is", "sufficient", "for", "understanding", "the", "notion", "of", "weakly", "hard", "problems", ".", "This", "section", "also", "proves", "the", "Rigid", "Enumeration", "Theorem", ",", "which", "is", "crucial", "for", "the", "martingale", "diagonalization", "method", "used", "to", "prove", "the", "Main", "Theorem", "in", "section", "4", ".", "A", "martingale", "is", "a", "function", "d", ":", "f0", ";", "1g", "!", "-LSB-", "0", ";", "1", "-RRB-", "with", "the", "property", "that", ",", "for", "all", "w", "2", "f0", ";", "1g", ",", "A", "martingale", "d", "succeeds", "on", "a", "language", "A", "'", "f0", ";", "1g", "if", "lim", "sup", "-LRB-", "Recall", "that", "-", "A", "-LSB-", "0", ":", ":", "n", "\\", "Gamma", "1", "-RSB-", "is", "the", "string", "consisting", "of", "the", "first", "n", "bits", "of", "the", "characteristic", "sequence", "of", "A.", "-RRB-", "Finally", ",", "for", "each", "martingale", "d", ",", "define", "the", "set", "d", "succeeds", "on", "Ag", ":", "Intuitively", ",", "a", "martingale", "d", "is", "a", "betting", "strategy", "that", ",", "given", "a", "language", "A", ",", "starts", "with", "capital", "-LRB-", "amount", "of", "money", "-RRB-", "d", "-LRB-", "-", "-RRB-", "and", "bets", "on", "the", "membership", "or", "nonmembership", "of", "the", "successive", "strings", "0", ";", "enumeration", "of", "f0", ";", "1g", "-RRB-", "in", "A.", "Prior", "to", "betting", "on", "a", "string", "n", ",", "the", "strategy", "has", "capital", "d", "-LRB-", "w", "-RRB-", ",", "where", "After", "betting", "on", "the", "string", "n", ",", "the", "strategy", "has", "capital", "d", "-LRB-", "wb", "-RRB-", ",", "where", "A", "-RSB-", "-RSB-", ".", "Condition", "-LRB-", "3.1", "-RRB-", "ensures", "that", "the", "betting", "is", "fair", ".", "The", "strategy", "succeeds", "on", "A", "if", "its", "capital", "is", "unbounded", "as", "the", "betting", "progresses", ".", "Example", "3.1", ".", "by", "the", "following", "recursion", ".", "Let", "1g", ".", "-LRB-", "See", "Figure", "1", ".", "-RRB-", "It", "is", "easily", "checked", "that", "d", "is", "a", "martingale", "that", "succeeds", "on", "the", "language", "is", "primeg", "and", "on", "no", "other", "language", ".", "Example", "3.2", ".", "by", "the", "following", "recursion", ".", "Let", "-LRB-", "See", "Figure", "2", ".", "-RRB-", "It", "is", "obvious", "that", "d", "is", "a", "martingale", "that", "succeeds", "on", "every", "finite", "language", "A", ".", "In", "fact", ",", "it", "is", "easily", "checked", "that", "S", "1", "-LSB-", "d", "-RSB-", "contains", "exactly", "every", "language", "A", "for", "which", "the", "quantity", "log", "3", "is", "unbounded", "as", "denotes", "the", "number", "of", "0", "'s", "in", "the", "string", "w.", "Martingales", "were", "used", "extensively", "by", "Schnorr", "-LSB-", "19", ",", "20", ",", "21", ",", "22", "-RSB-", "in", "his", "investigation", "of", "random", "and", "pseudorandom", "sequences", ".", "Lutz", "-LSB-", "10", ",", "8", "-RSB-", "used", "martingales", "that", "are", "computable", "in", "polynomial", "time", "to", "characterize", "sets", "that", "have", "measure", "0", "in", "E", ".", "Since", "martingales", "are", "real-valued", ",", "their", "computations", "must", "employ", "finite", "approximations", "of", "real", "numbers", ".", "For", "this", "purpose", ",", "let", "\\", "Gamman", "Figure", "1", ":", "The", "martingale", "d", "of", "Example", "3.1", "be", "the", "set", "of", "nonnegative", "dyadic", "rationals", ".", "These", "are", "nonnegative", "rational", "numbers", "with", "finite", "binary", "expansions", ".", "Definition", ".", "1", ".", "A", "computation", "of", "a", "martingale", "d", "is", "a", "function", "b", "f0", ";", "1g", "!", "D", "such", "that", "fi", "fi", "fi", "b", "for", "all", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", "satisfying", "r", "-", "jwj", ",", "where", "b", "d", "r", "2", ".", "A", "strong", "computation", "of", "a", "martingale", "d", "is", "a", "computation", "b", "d", "of", "d", "that", "satisfies", "-LRB-", "3.2", "-RRB-", "for", "all", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", ".", "Figure", "2", ":", "The", "martingale", "d", "of", "Example", "3.2", "3", ".", "A", "computation", "b", "d", "of", "a", "martingale", "d", "is", "rigid", "if", "it", "has", "the", "following", "two", "properties", ".", "-LRB-", "a", "-RRB-", "For", "each", "r", "2", "N", ",", "the", "function", "b", "d", "r", "is", "a", "martingale", ".", "-LRB-", "b", "-RRB-", "For", "all", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", ",", "if", "r", "-", "jwj", ",", "then", "d", "r", "+1", "-LRB-", "w", "-RRB-", "4", ".", "A", "p-computation", "of", "a", "martingale", "d", "is", "a", "computation", "b", "d", "of", "d", "such", "that", "d", "r", "-LRB-", "w", "-RRB-", "is", "computable", "in", "time", "polynomial", "in", "r", "5", ".", "A", "p-martingale", "is", "a", "martingale", "that", "has", "a", "p-computation", ".", "A", "martingale", "is", "here", "considered", "to", "be", "``", "feasible", "''", "if", "and", "only", "if", "it", "is", "a", "p-martingale", ",", "i.e.", ",", "if", "and", "only", "if", "it", "has", "a", "p-computation", ".", "Intuitively", ",", "one", "might", "prefer", "to", "insist", "that", "``", "feasible", "''", "martingales", "have", "strong", "p-computations", ",", "thereby", "avoiding", "the", "ad", "hoc", "condition", "r", "-", "jwj", ".", "On", "the", "other", "hand", ",", "in", "the", "technical", "arguments", "of", "this", "paper", ",", "it", "is", "useful", "to", "have", "rigid", "p-computations", ",", "for", "reasons", "explained", "below", ".", "Fortunately", ",", "the", "following", "lemma", "shows", "that", "all", "three", "of", "these", "conditions", "are", "equivalent", ".", "Lemma", "3.3", "-LRB-", "Rigid", "Computation", "Lemma", "-RRB-", ".", "For", "a", "martingale", "d", ",", "the", "following", "three", "conditions", "are", "equivalent", ".", "-LRB-", "1", "-RRB-", "d", "has", "a", "p-computation", ".", "-LRB-", "2", "-RRB-", "d", "has", "a", "strong", "p-computation", ".", "-LRB-", "3", "-RRB-", "d", "has", "a", "rigid", "p-computation", ".", "Proof", ".", "It", "is", "trivial", "that", "-LRB-", "3", "-RRB-", "implies", "-LRB-", "1", "-RRB-", ".", "To", "see", "that", "-LRB-", "1", "-RRB-", "implies", "-LRB-", "2", "-RRB-", ",", "let", "b", "d", "be", "a", "p-computation", "of", "d", ".", "Then", "the", "function", "e", "defined", "by", "e", "d", "r", "d", "r", "+", "jwj", "-LRB-", "w", "-RRB-", "is", "easily", "seen", "to", "be", "a", "strong", "p-computation", "of", "d", ",", "so", "-LRB-", "2", "-RRB-", "holds", ".", "To", "see", "that", "-LRB-", "2", "-RRB-", "implies", "-LRB-", "3", "-RRB-", ",", "let", "b", "d", "be", "a", "strong", "p-computation", "of", "d.", "Define", "a", "function", "e", "by", "the", "following", "recursion", ".", "Assume", "that", "d", "r", "d", "2r", "+2", "-LRB-", "-", "-RRB-", ".", "d", "r", "d", "2r", "+2", "-LRB-", "wb", "-RRB-", "\\", "Gamma", "b", "d", "2r", "+2", "-LRB-", "wb", "-RRB-", ":", "It", "suffices", "to", "show", "that", "e", "d", "is", "a", "rigid", "p-computation", "of", "d", ".", "It", "is", "first", "shown", ",", "by", "induction", "on", "w", ",", "that", "holds", "for", "all", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", ".", "For", "immediately", "from", "the", "facts", "that", "e", "d", "r", "d", "2r", "+2", "-LRB-", "-", "-RRB-", "and", "b", "d", "is", "a", "p-computation", "of", "d.", "For", "the", "induction", "step", ",", "assume", "that", "-LRB-", "3.3", "-RRB-", "holds", ".", "Then", ",", "for", "b", "2", "f0", ";", "1g", ",", "e", "d", "d", "2r", "+2", "-LRB-", "wb", "-RRB-", "\\", "Gamma", "d", "-LRB-", "wb", "-RRB-", "d", "d", "2r", "+2", "-LRB-", "wb", "-RRB-", "\\", "Gamma", "d", "-LRB-", "wb", "-RRB-", "d", "d", "2r", "+2", "-LRB-", "wb", "-RRB-", "\\", "Gamma", "d", "-LRB-", "wb", "-RRB-", "d", "d", "2r", "+2", "-LRB-", "wb", "-RRB-", "fi", "fi", "fi", "fi", "fi", "d", "d", "-LRB-", "The", "last", "inequality", "holds", "by", "the", "induction", "hypothesis", "and", "the", "fact", "that", "b", "d", "is", "a", "strong", "p-computation", "of", "d.", "-RRB-", "This", "confirms", "that", "-LRB-", "3.3", "-RRB-", "holds", "for", "all", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", ".", "Now", "let", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", "be", "such", "that", "r", "-", "jwj", ".", "Then", ",", "by", "-LRB-", "3.3", "-RRB-", ",", "This", "shows", "that", "e", "d", "is", "a", "computation", "of", "d", ".", "In", "fact", ",", "since", "b", "d", "is", "a", "p-computation", ",", "it", "is", "easily", "checked", "that", "e", "d", "is", "a", "p-computation", "of", "d", ".", "The", "fact", "that", "e", "d", "is", "rigid", "follows", "from", "the", "following", "two", "observations", ".", "-LRB-", "a", "-RRB-", "For", "each", "r", "2", "N", ",", "the", "function", "e", "d", "r", "is", "clearly", "a", "martingale", "by", "clause", "-LRB-", "ii", "-RRB-", "in", "the", "definition", "of", "e", "d.", "-LRB-", "b", "-RRB-", "For", "all", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", ",", "by", "-LRB-", "3.4", "-RRB-", ",", "d", "r", "+1", "-LRB-", "w", "-RRB-", "Thus", "-LRB-", "3", "-RRB-", "holds", ".", "2", "Note", "that", "the", "above", "proof", "does", "not", "construct", "a", "p-computation", "of", "d", "that", "is", "both", "strong", "and", "rigid", ".", "In", "fact", ",", "it", "seems", "reasonable", "to", "conjecture", "that", "there", "exists", "a", "p-martingale", "d", "for", "which", "no", "p-computation", "is", "both", "strong", "and", "rigid", ".", "Note", "that", "a", "function", "b", "D", "is", "a", "rigid", "computation", "of", "some", "martingale", "d", "if", "and", "only", "if", "it", "satisfies", "the", "predicates", "d", "-RRB-", "j", "d", "k", ";", "r", "+1", "-LRB-", "w", "-RRB-", "and", "d", "-RRB-", "j", "d", "r", "-LRB-", "w1", "-RRB-", "#", "for", "all", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", ".", "The", "next", "theorem", "exploits", "this", "fact", "to", "give", "a", "very", "useful", "enumeration", "of", "all", "p-martingales", ".", "The", "following", "definition", "specifies", "the", "useful", "properties", "of", "this", "enumeration", ".", "Definition", ".", "A", "rigid", "enumeration", "d", "consists", "of", "a", "sequence", "d", "sequence", "b", "with", "the", "following", "properties", ".", "is", "an", "enumeration", "of", "all", "p-martingales", ".", "-LRB-", "ii", "-RRB-", "For", "each", "k", "2", "N", ",", "b", "d", "k", "is", "a", "rigid", "p-computation", "of", "d", "k", ".", "-LRB-", "iii", "-RRB-", "There", "is", "an", "algorithm", "that", ",", "given", "k", ";", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", ",", "computes", "d", "k", ";", "r", "-LRB-", "w", "-RRB-", "in", "at", "most", "-LRB-", "2", "steps", ".", "The", "following", "theorem", "is", "the", "main", "result", "of", "this", "section", ".", "Theorem", "3.4", "-LRB-", "Rigid", "Enumeration", "Theorem", "-RRB-", ".", "There", "exists", "a", "rigid", "enumeration", "of", "all", "p-martingales", ".", "Proof", ".", "Fix", "a", "function", "e", "g", ":", "N", "2", "\\", "Theta", "f0", ";", "1g", "!", "D", "with", "the", "following", "properties", ".", "-LRB-", "Write", "e", "is", "an", "enumeration", "of", "all", "functions", "f", "that", "f", "-LRB-", "r", ";", "w", "-RRB-", "is", "computable", "in", "time", "polynomial", "in", "r", "-LRB-", "ii", "-RRB-", "There", "is", "an", "algorithm", "that", ",", "given", "k", ";", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", ",", "computes", "e", "k", ";", "r", "-LRB-", "w", "-RRB-", "in", "at", "most", "-LRB-", "2", "steps", ".", "-LRB-", "The", "existence", "of", "such", "an", "efficient", "universal", "function", "is", "well-known", "-LSB-", "3", ",", "4", "-RSB-", ".", "-RRB-", "Most", "of", "this", "proof", "is", "devoted", "to", "two", "claims", "and", "their", "respective", "proofs", ".", "The", "first", "of", "these", "claims", "is", "the", "following", ".", "Claim", "1", ".", "There", "is", "a", "function", "b", "with", "the", "following", "properties", ".", "-LRB-", "Write", "b", "g", "k", ";", "r", "-LRB-", "a", "-RRB-", "For", "each", "k", "2", "N", ",", "b", "k", "is", "a", "rigid", "p-computation", "of", "some", "martingale", "g", "k", ".", "-LRB-", "b", "-RRB-", "For", "each", "k", "2", "N", ",", "if", "e", "k", "is", "already", "a", "rigid", "p-computation", "of", "some", "martingale", "k", ".", "-LRB-", "c", "-RRB-", "There", "is", "a", "constant", "c", "2", "N", "such", "that", ",", "for", "all", "k", ";", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", ",", "k", ";", "r", "-LRB-", "w", "-RRB-", "is", "computable", "in", "at", "most", "-LRB-", "2", "steps", ".", "Assume", "for", "the", "moment", "that", "Claim", "1", "is", "true", ".", "Define", "functions", "b", "d", "k", ";", "r", "is", "not", "of", "this", "form", ",", "d", "k", ";", "r", "-LRB-", "w", "-RRB-", ":", "The", "second", "claim", "is", "the", "following", ".", "2", ".", "The", "sequences", "d", "constitute", "a", "rigid", "enumeration", "of", "all", "p-martingales", ".", "To", "prove", "Claim", "2", "-LRB-", "still", "assuming", "Claim", "1", "-RRB-", ",", "first", "note", "that", ",", "for", "all", "k", "2", "N", "and", "w", "2", "f0", ";", "1g", ",", "ae", "is", "not", "of", "this", "form", ".", "By", "part", "-LRB-", "a", "-RRB-", "of", "Claim", "1", ",", "this", "immediately", "implies", "that", "each", "d", "k", "is", "a", "p-martingale", ".", "Conversely", ",", "assume", "that", "d", "0", ":", "f0", ";", "1g", "!", "-LSB-", "0", ";", "1", "-RRB-", "is", "a", "p-martingale", ".", "Then", ",", "by", "the", "Rigid", "Computation", "Lemma", "and", "clause", "-LRB-", "i", "-RRB-", "in", "the", "specification", "of", "e", "g", ",", "there", "is", "some", "j", "2", "N", "such", "that", "e", "g", "j", "is", "a", "rigid", "p-computation", "of", "d", "0", ".", "Choose", "k", "2", "N", "such", "that", "j", "by", "part", "-LRB-", "b", "-RRB-", "of", "Claim", "1", ",", "so", "e", "d", "k", "is", "a", "rigid", "p-computation", "of", "d", "0", ",", "so", "d", "This", "shows", "that", "d", "0", "is", "an", "enumeration", "of", "all", "p-martingales", "and", "that", "each", "b", "d", "k", "is", "a", "rigid", "p-computation", "of", "d", "k", ".", "For", "required", "to", "compute", "b", "d", "k", ";", "r", "-LRB-", "w", "-RRB-", "satisfies", "This", "prove", "Claim", "2", ",", "and", "hence", "the", "theorem", ".", "All", "that", "remains", ",", "then", ",", "is", "to", "prove", "Claim", "1", ".", "To", "prove", "Claim", "1", ",", "the", "values", "b", "k", ";", "r", "-LRB-", "w", "-RRB-", "are", "first", "specified", "for", "all", "k", ";", "r", "2", "N", "and", ".", "Define", "the", "following", "predicates", ".", "-LRB-", "In", "these", "predicates", ",", "it", "is", "useful", "to", "regard", "k", ";", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", "as", "parameters", "and", "f", ";", "b", "as", "variables", ".", "-RRB-", "ff", "k", ";", "r", ";", "w", "-LRB-", "f", ";", "b", "by", "recursion", "on", "r", "and", "w", "as", "follows", ".", "Let", "k", ";", "r", "2", "N", ",", "1g", ".", "k", ";", "r", "-LRB-", "-", "-RRB-", "otherwise", "e", "g", "-RRB-", "and", "g", "-RRB-", "and", "k", ";", "r", "-LRB-", "w", "-RRB-", "otherwise", "By", "condition", "-LRB-", "ii", "-RRB-", "in", "the", "choice", "of", "e", "g", ",", "the", "function", "b", "defined", "by", "this", "recursion", "is", "easily", "seen", "to", "satisfy", "condition", "-LRB-", "c", "-RRB-", "of", "Claim", "1", ".", "To", "see", "that", "b", "satisfies", "condition", "-LRB-", "a", "-RRB-", "of", "Claim", "1", ",", "let", "k", "2", "N", "be", "arbitrary", ".", "A", "routine", "induction", "on", "r", "shows", "that", "fi", "k", ";", "r", ";", "w", "-LRB-", "e", "holds", "for", "all", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", ".", "It", "follows", "easily", "that", "each", "b", "k", ";", "r", "is", "a", "martingale", ".", "A", "routine", "induction", "on", "w", "then", "shows", "that", "ff", "k", ";", "r", ";", "w", "-LRB-", "e", "g", "-RRB-", "holds", "for", "all", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", ".", "It", "follows", "that", "b", "g", "k", "is", "a", "rigid", "p-computation", "of", "the", "martingale", "g", "k", "defined", "by", "k", ";", "r", "-LRB-", "w", "-RRB-", ".", "Thus", "b", "satisfies", "condition", "-LRB-", "a", "-RRB-", "of", "Claim", "1", ".", "Finally", ",", "to", "see", "that", "b", "g", "satisfies", "condition", "-LRB-", "b", "-RRB-", "of", "Claim", "1", ",", "fix", "k", "2", "N", "and", "assume", "that", "e", "g", "k", "is", "a", "rigid", "computation", "of", "some", "martingale", "g", "k", ".", "Then", "a", "routine", "induction", "on", "r", "and", "w", "shows", "that", "b", "k", ".", "-LRB-", "The", "ff", "and", "fi", "predicates", "hold", "throughout", "the", "induction", ",", "so", "the", "``", "otherwise", "''", "cases", "are", "never", "invoked", "in", "the", "definition", "of", "b", "k", ".", "-RRB-", "This", "completes", "the", "proof", "of", "Claim", "1", "and", "the", "proof", "of", "the", "Rigid", "Enumeration", "Theorem", ".", "2", "The", "rest", "of", "this", "section", "briefly", "develops", "those", "aspects", "of", "measure", "in", "E", "that", "are", "used", "in", "this", "paper", ".", "The", "key", "ideas", "are", "in", "the", "following", "definition", ".", "Definition", ".", "1", ".", "A", "set", "X", "of", "languages", "has", "p-measure", "0", ",", "written", "-", "there", "is", "a", "p-martingale", "d", "such", "that", "X", "'", "S", "1", "-LSB-", "d", "-RSB-", ".", "2", ".", "A", "set", "X", "of", "languages", "has", "measure", "0", "in", "E", ",", "written", "-", "-LRB-", "X", "j", "E", "-RRB-", "=", "0", ",", "if", "3", ".", "A", "set", "X", "of", "languages", "has", "measure", "1", "in", "E", ",", "written", "-", "-LRB-", "X", "j", "E", "-RRB-", "=", "1", ",", "if", "is", "the", "complement", "of", "X", ".", "In", "this", "case", ",", "X", "is", "said", "to", "contain", "almost", "every", "language", "in", "E.", "4", ".", "The", "expression", "-", "-LRB-", "X", "j", "E", "-RRB-", "6", "=", "0", "indicates", "that", "X", "does", "not", "have", "measure", "in", "E.", "Note", "that", "this", "does", "not", "assert", "that", "''", "-", "-LRB-", "X", "j", "E", "-RRB-", "''", "has", "some", "nonzero", "value", ".", "Thus", ",", "a", "set", "X", "of", "languages", "has", "measure", "0", "in", "E", "if", "there", "is", "a", "feasible", "martingale", "that", "succeeds", "on", "every", "element", "of", "X", ".", "The", "following", "fact", "is", "obvious", "but", "useful", ".", "Proposition", "3.5", ".", "Every", "set", "X", "of", "languages", "satisfies", "the", "implications", "where", "the", "probability", "Pr", "-LSB-", "A", "2", "X", "-RSB-", "is", "computed", "according", "to", "the", "random", "experiment", "in", "which", "a", "language", "A", "'", "f0", ";", "1g", "is", "chosen", "probabilistically", ",", "using", "an", "independent", "toss", "of", "a", "fair", "coin", "to", "decide", "whether", "each", "string", "x", "2", "f0", ";", "1g", "is", "in", "A", ".", "The", "right-hand", "implication", "in", "Proposition", "3.5", "makes", "it", "clear", "that", "p", "-", "measure", "0", "sets", "are", "negligibly", "small", ".", "What", "is", "significant", "for", "complexity", "theory", "is", "that", ",", "if", "X", "has", "measure", "0", "in", "E", ",", "then", "negligibly", "small", "as", "a", "subset", "of", "E", ".", "This", "intuition", "is", "technically", "justified", "in", "-LSB-", "10", "-RSB-", ",", "where", "it", "is", "shown", "that", "finite", "subsets", "of", "E", "have", "measure", "0", "in", "E", ",", "and", "that", "the", "sets", "of", "measure", "0", "in", "E", "are", "closed", "under", "subset", ",", "finite", "unions", ",", "and", "certain", "countable", "unions", ",", "called", "``", "p-unions", ".", "''", "Most", "importantly", ",", "the", "following", "is", "shown", ".", "Theorem", "3.6", "-LSB-", "10", "-RSB-", ".", "-", "-LRB-", "E", "j", "E", "-RRB-", "6", "=", "0", ".", "Combined", "with", "the", "above-mentioned", "closure", "properties", ",", "this", "result", "-LRB-", "which", "is", "a", "special", "case", "of", "the", "more", "general", "Measure", "Conservation", "Theorem", "-LSB-", "10", "-RSB-", "-RRB-", "ensures", "that", "in", "a", "nontrivial", "sense", ",", "a", "negligibly", "small", "subset", "of", "E", "whenever", "X", "has", "measure", "0", "in", "E.", "4", "Weak", "Completeness", "in", "E", "In", "standard", "terminology", ",", "a", "language", "H", "is", "-", "P", "m", "-", "hard", "for", "a", "complexity", "class", "C", "if", "the", "set", "Pm", "A", "contains", "all", "of", "C", ".", "A", "language", "C", "is", "-", "P", "m", "-", "complete", "for", "C", "if", "C", "2", "C", "and", "C", "is", "m", "-", "hard", "for", "C", ".", "The", "following", "definition", "generalizes", "these", "notions", "for", "the", "complexity", "class", "language", "H", "is", "weakly", "-", "P", "E", "-RRB-", "6", "=", "0", ",", "i.e.", ",", "the", "set", "Pm", "-LRB-", "H", "-RRB-", "does", "not", "have", "measure", "0", "in", "E", ".", "A", "language", "C", "is", "weakly", "m", "-", "hard", "for", "E.", "By", "Theorem", "3.6", ",", "every", "-", "P", "-", "hard", "language", "for", "E", "is", "weakly", "-", "P", "m", "-", "hard", "for", "E", ",", "whence", "every", "-", "P", "-", "comlete", "language", "for", "E", "is", "weakly", "-", "P", "m", "-", "complete", "for", "E", ".", "The", "following", "result", "says", "that", "the", "converse", "does", "not", "hold", ",", "i.e.", ",", "that", "in", "E", ",", "weak", "m", "-", "completeness", "is", "a", "proper", "generalization", "of", "-", "P", "-", "completeness", ".", "Theorem", "4.1", "-LRB-", "Main", "Theorem", "-RRB-", ".", "There", "is", "a", "language", "C", "that", "is", "weakly", "m", "-", "complete", ",", "but", "not", "-", "P", "m", "-", "complete", ",", "for", "E", ".", "The", "rest", "of", "this", "section", "is", "devoted", "to", "proving", "the", "Main", "Theorem", ".", "A", "recent", "theorem", "of", "Juedes", "and", "Lutz", "gives", "a", "necessary", "condition", "for", "a", "language", "to", "be", "-", "P", "m", "-", "hard", "for", "E", ".", "This", "condition", ",", "based", "on", "an", "idea", "of", "Meyer", "-LSB-", "15", "-RSB-", ",", "plays", "an", "important", "role", "in", "the", "present", "proof", ".", "The", "key", "ideas", "are", "developed", "in", "the", "following", "definitions", ".", "Definition", ".", "The", "collision", "set", "of", "a", "function", "f", ":", "f0", ";", "1g", "!", "f0", ";", "1g", "is", "A", "function", "f", ":", "f0", ";", "1g", "!", "f0", ";", "1g", "is", "one-to-one", "almost", "everywhere", "if", "C", "f", "is", "finite", ".", "many-one", "reduction", "of", "A", "is", "a", "computable", "function", "f", ":", "f0", ";", "1g", "!", "f0", ";", "1g", "such", "that", "that", ",", "for", "all", "x", "2", "f0", ";", "1g", ",", "f", "-LRB-", "x", "-RRB-", "2", "f", "-LRB-", "A", "-RRB-", "implies", "x", "2", "A", ".", "A", "-", "DTIME", "-LRB-", "t", "-RRB-", "-", "reduction", "of", "A", "is", "a", "many-one", "reduction", "f", "of", "A", "such", "that", "f", "2", "DTIMEF", "-LRB-", "t", "-RRB-", ".", "N", ".", "Then", "A", "is", "incompressible", "by", "-", "reductions", "if", "every", "-", "DTIME", "-LRB-", "t", "-RRB-", "m", "-", "reduction", "of", "A", "is", "one-to-one", "almost", "everywhere", ".", "Intuitively", ",", "if", "f", "is", "a", "-", "DTIME", "-LRB-", "t", "-RRB-", "m", "-", "reduction", "of", "A", "and", "C", "f", "is", "large", ",", "then", "f", "many", "questions", "``", "x", "2", "A", "?", "''", "to", "fewer", "questions", "``", "f", "-LRB-", "x", "-RRB-", "2", "f", "-LRB-", "A", "-RRB-", "?", "''", "If", "A", "is", "incompressible", "by", "-", "DTIME", "-LRB-", "t", "-RRB-", "-", "reductions", ",", "then", "A", "is", "``", "very", "complex", "''", "in", "the", "sense", "that", "very", "little", "such", "compression", "can", "occur", ".", "The", "following", "result", "is", "used", "here", ".", "Theorem", "4.2", "-LRB-", "Juedes", "and", "Lutz", "-LSB-", "7", "-RSB-", "-RRB-", ".", "No", "language", "that", "is", "-", "P", "m", "-", "hard", "for", "E", "is", "incompressible", "by", "-", "DTIME", "-LRB-", "2", "4n", "-RRB-", "-", "reductions", ".", "Since", "almost", "every", "language", "-LRB-", "and", "almost", "every", "language", "in", "E", "-RRB-", "is", "incompressible", "by", "-", "DTIME", "-LRB-", "2", "4n", "-RRB-", "-", "reductions", "-LSB-", "7", "-RSB-", ",", "Theorem", "4.2", "says", "that", "the", "-", "P", "languages", "are", "``", "unusually", "simple", "''", "in", "at", "least", "this", "one", "respect", ".", "The", "largest", "part", "of", "the", "proof", "of", "the", "Main", "Theorem", "is", "the", "construction", "of", "a", "language", "H", "with", "the", "following", "two", "properties", ".", "m", "-", "hard", "for", "E.", "-LRB-", "II", "-RRB-", "H", "is", "incompressible", "by", "-", "DTIME", "-LRB-", "2", "4n", "-RRB-", "-", "reductions", ".", "By", "Theorem", "4.2", ",", "this", "language", "H", "can", "not", "be", "-", "P", "m", "-", "hard", "for", "E", ".", "A", "padding", "argument", "then", "gives", "the", "Main", "Theorem", ".", "The", "language", "H", "is", "constructed", "by", "diagonalization", ".", "In", "establishing", "property", "-LRB-", "I", "-RRB-", ",", "the", "construction", "uses", "a", "fixed", "rigid", "enumeration", "d", "of", "all", "p-martingales", ".", "Such", "a", "rigid", "enumeration", "exists", "by", "Theorem", "3.4", ".", "In", "establishing", "property", "-LRB-", "II", "-RRB-", ",", "the", "construction", "uses", "a", "fixed", "function", "f", "such", "that", "is", "universal", "for", "DTIMEF", "-LRB-", "2", "4n", "-RRB-", ",", "in", "the", "sense", "that", "-LRB-", "The", "existence", "of", "such", "an", "efficient", "universal", "function", "is", "well-known", "-LSB-", "3", ",", "4", "-RSB-", ".", "-RRB-", "In", "addition", "to", "the", "pairing", "function", "h", ";", "i", "mentioned", "in", "section", "2", ",", "the", "construction", "of", "H", "uses", "the", "ordering", "!", "of", "N", "2", "defined", "by", "or", "-LSB-", "-LRB-", "1", "and", "for", "all", "j", ";", "m", ";", "k", ";", "n", "2", "N", ".", "It", "is", "easy", "to", "check", "that", "-LRB-", "N", "isomorphic", "to", "-LRB-", "N", ";", "!", "-RRB-", ".", "For", "-LRB-", "k", ";", "n", "-RRB-", "2", "N", "2", ",", "let", "-LRB-", "j", ";", "m", "-RRB-", "2", "N", "2", "be", "the", "number", "of", "!", "-", "predecessors", "of", "-LRB-", "k", ";", "n", "-RRB-", "in", "N", "2", ".", "Two", "important", "properties", "of", "!", "are", "that", "and", "Using", "the", "ordering", "!", ",", "define", "the", "modified", "collision", "set", "C", "i", "of", "a", "function", "Also", ",", "for", "k", "2", "N", ",", "define", "the", "k", "th", "slice", "of", "C", "i", "to", "be", "the", "set", "Lemma", "4.3", ".", "For", "all", "i", "2", "N", ",", "the", "function", "f", "i", "is", "one-to-one", "almost", "everywhere", "if", "and", "only", "if", "the", "set", "C", "i", "is", "finite", ".", "Proof", ".", "Fix", "define", "an", "equivalence", "relation", "j", "i", "on", "f0", ";", "1g", "by", "Then", "the", "collision", "set", "C", "f", "i", "and", "the", "modified", "collision", "set", "C", "i", "each", "consist", "of", "all", "but", "one", "of", "the", "elements", "of", "all", "the", "non-singleton", "equivalence", "classes", "of", "j", "i", ".", "It", "follows", "immediately", "that", "C", "f", "i", "and", "C", "are", "either", "both", "finite", "or", "both", "infinite", ".", "Overview", "of", "the", "Construction", ".", "Informally", "and", "intuitively", ",", "the", "language", "H", "is", "constructed", "by", "deciding", "the", "Boolean", "values", "hk", ";", "ni", "2", "H", "for", "successive", "-LRB-", "k", ";", "n", "-RRB-", "in", "the", "ordering", "!", "of", "N", "2", ".", "It", "is", "convenient", "to", "regard", "H", "as", "consisting", "of", "the", "separate", "``", "strands", "''", "H", "Figure", "3", ".", "-RRB-", "The", "construction", "exploits", "the", "ordering", "!", "to", "ensure", "that", "H", "and", "each", "H", "k", "2", "E", ".", "The", "``", "ultimate", "objective", "''", "of", "each", "H", "k", "is", "to", "ensure", "that", "a", "specially", "constructed", "martingale", "e", "d", "k", "does", "not", "succeed", "on", "H", "k", ".", "For", "each", "k", ",", "all", "but", "finitely", "many", "of", "the", "values", "are", "chosen", "according", "to", "this", "ultimate", "objective", ".", "The", "exceptions", "occur", "when", "values", "are", "chosen", "in", "order", "to", "``", "destroy", "''", "various", "functions", "f", "in", "order", "to", "ensure", "that", "these", "functions", "are", "not", "many-one", "reductions", "of", "H.", "Figure", "3", ":", "The", "strands", "of", "H", ".", "The", "specially", "constructed", "martingales", "are", "of", "the", "form", "e", "where", "d", "k", "is", "taken", "from", "the", "rigid", "enumeration", "of", "all", "p-martingales", "given", "by", "Theorem", "3.4", "and", "the", "martingales", "d", "i", ";", "k", "are", "defined", "below", ".", "Since", "e", "d", "k", "does", "not", "succeed", "on", "H", "k", ",", "d", "k", "also", "does", "not", "succeed", "on", "H", "k", ".", "Since", "k", "is", "arbitrary", "here", "and", "each", "H", "k", "2", "Pm", "-LRB-", "H", "-RRB-", "''", "E", ",", "it", "follows", "that", "Pm", "does", "not", "have", "p-measure", "0", ",", "i.e.", ",", "that", "Pm", "-LRB-", "H", "-RRB-", "does", "not", "have", "measure", "0", "in", "E.", "Thus", "H", "is", "a", "weakly", "m", "-", "hard", "for", "E.", "On", "the", "other", "hand", ",", "since", "e", "d", "k", "does", "not", "succeed", "on", "H", "k", ",", "none", "of", "the", "martingales", "d", "i", ";", "k", "succeeds", "on", "H", "k", ".", "Moreover", ",", "matters", "are", "arranged", "so", "that", ",", "for", "every", "many-one", "reduction", "f", "i", "of", "H", "with", "C", "succeeds", "on", "H", "k", ",", "or", "else", "f", "i", "is", "eventually", "``", "destroyed", "''", "by", "some", "value", "It", "follows", "that", "H", "is", "incompressible", "by", "-", "DTIME", "-LRB-", "2", "4n", "-RRB-", "-", "reductions", ",", "whence", "H", "is", "not", "-", "P", "m", "-", "hard", "for", "E", "by", "Theorem", "4.2", ".", "Precise", "details", "follow", ".", "The", "Construction", ".", "The", "language", "H", "'", "f0", ";", "1g", "is", "defined", "by", "where", "the", "languages", "H", "are", "defined", ",", "along", "with", "the", "auxiliary", "martingales", "e", "\\", "Delta", ",", "by", "the", "following", "recursion", ".", "-LRB-", "1", "-RRB-", "For", "k", "2", "N", "and", "w", "2", "f0", ";", "1g", ",", "define", "e", "d", "i", ";", "k", "-LRB-", "w", "-RRB-", ";", "where", "the", "functions", "d", "i", ";", "k", "are", "computed", "as", "follows", ".", "Assume", "that", "w", "2", "1g", ".", "-LRB-", "a", "-RRB-", "d", "i", ";", "k", "-LRB-", "b", "-RRB-", "If", "-LRB-", "k", ";", "-LRB-", "c", "-RRB-", "If", "-LRB-", "k", ";", "n", "-RRB-", "2", "C", "d", "i", ";", "k", "where", "-LRB-", "j", ";", "m", "-RRB-", "is", "the", "!", "-", "least", "pair", "in", "N", "2", "such", "that", "f", "i", "-LRB-", "hj", ";", "It", "is", "clear", "that", "each", "d", "i", ";", "k", ",", "and", "hence", "each", "e", "d", "k", ",", "is", "a", "martingale", ".", "For", "k", ";", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", ",", "the", "approximation", "d", "k", ";", "r", "d", "d", "i", ";", "k", "-LRB-", "w", "-RRB-", "of", "e", "d", "k", "-LRB-", "w", "-RRB-", "is", "also", "used", ".", "It", "is", "easy", "to", "check", "that", "for", "all", "k", ";", "r", "2", "N", "and", "w", "2", "f0", ";", "1g", "satisfying", "r", "-LRB-", "2", "-RRB-", "In", "the", "construction", "of", "the", "languages", "H", "\\", "Delta", ",", "the", "operation", "``", "destroy", "f", "i", "at", "-LRB-", "k", ";", "n", "-RRB-", "''", "is", "often", "performed", ".", "In", "all", "such", "instances", ",", "it", "is", "known", "that", "-LRB-", "k", ";", "n", "-RRB-", "2", "C", "and", "the", "operation", "is", "performed", "by", "setting", "where", "-LRB-", "j", ";", "m", "-RRB-", "is", "the", "!", "-", "least", "pair", "in", "N", "2", "such", "that", "f", "i", "-LRB-", "hj", ";", "Note", "that", "a", "single", "performance", "of", "this", "operation", "ensures", "that", "f", "i", "is", "not", "a", "many-one", "reduction", "of", "H", ".", "The", "sets", "is", "destroyed", "at", "-LRB-", "j", ";", "m", "-RRB-", "g", ";", "for", "are", "also", "used", "in", "the", "construction", ".", "It", "is", "emphasized", "that", "an", "index", "i", "appears", "in", "D", "k", ";", "n", "only", "if", "the", "operation", "``", "destroy", "f", "i", "at", "-LRB-", "j", ";", "m", "-RRB-", "''", "is", "explicitly", "performed", "for", "some", "-LRB-", "j", ";", "m", "-RRB-", "!", "-LRB-", "k", ";", "n", "-RRB-", ".", "In", "particular", ",", "for", "each", "-LRB-", "j", ";", "m", "-RRB-", ",", "there", "is", "at", "most", "one", "i", "such", "that", "f", "i", "is", "destroyed", "at", "-LRB-", "j", ";", "m", "-RRB-", ",", "even", "though", "there", "are", "many", "i", "0", "such", "that", "f", "Thus", "each", "D", "k", ";", "n", "is", "a", "finite", "set", "with", "jD", "k", ";", "n", "j", "-", "#", "-LRB-", "k", ";", "n", "-RRB-", ".", "For", "Note", "that", "'", "-LRB-", "k", ";", "n", "-RRB-", "is", "finite", "for", "all", "k", ";", "n", "2", "N", "-LRB-", "because", "f", "i", "is", "constant", "for", "infinitely", "many", "i", "-RRB-", ".", "The", "values", "are", "defined", "according", "to", "the", "following", "two", "cases", ".", "begin", "do", "begin", "d", "k", ";", "n", "+1", "-LRB-", "wb", "-RRB-", "for", "d", "k", ";", "n", "-LRB-", "w0", "-RRB-", "and", "d", "k", ";", "n", "-LRB-", "w1", "-RRB-", ".", "/", "/", "if", "'", "-LRB-", "k", ";", "n", "-RRB-", "-", "k", "then", "destroy", "f", "'", "-LRB-", "k", ";", "n", "-RRB-", "at", "-LRB-", "k", ";", "n", "-RRB-", "else", "end", ".", "Figure", "4", ":", "Computation", "of", "in", "the", "proof", "of", "Lemma", "4.4", ".", "Case", "1", ".", "If", "'", "-LRB-", "k", ";", "n", "-RRB-", "-", "k", ",", "then", "destroy", "f", "'", "-LRB-", "k", ";", "n", "-RRB-", "at", "-LRB-", "k", ";", "n", "-RRB-", ".", "Case", "2", ".", "If", "'", "-LRB-", "k", ";", "n", "-RRB-", "?", "k", ",", "then", "set", "d", "k", ";", "n", "-LRB-", "w1", "-RRB-", "-", "b", "e", "d", "k", ";", "n", "-LRB-", "w0", "-RRB-", "-RSB-", "-RSB-", ";", "This", "completes", "the", "construction", "of", "the", "languages", "H", "and", "the", "martingales", "e", "The", "following", "lemmas", "are", "used", "to", "prove", "the", "Main", "Theorem", ".", ".", "For", "each", "k", "2", "N", ",", "H", "k", "2", "E.", "Proof", ".", "Assume", "first", "that", "-LRB-", "k", ";", "n", "-RRB-", "2", "N", "2", "and", "that", "the", "values", "are", "known", "-LRB-", "stored", "-RRB-", "for", "all", "pairs", "-LRB-", "j", ";", "m", "-RRB-", "!", "-LRB-", "k", ";", "n", "-RRB-", ",", "as", "is", "the", "set", "D", "k", ";", "n", ".", "Consider", "the", "computation", "of", "exhibited", "in", "Figure", "4", ".", "To", "estimate", "the", "time", "required", "for", "this", "computation", ",", "recall", "the", "properties", "of", "!", "and", "note", "the", "following", ".", "-LRB-", "i", "-RRB-", "The", "computation", "of", "w", "requires", "at", "most", "n", "\\", "Delta", "#", "-LRB-", "k", ";", "steps", ".", "-LRB-", "ii", "-RRB-", "The", "computation", "of", "b", "d", "k", ";", "n", "+1", "-LRB-", "wb", "-RRB-", "requires", "at", "most", "-LRB-", "3", "steps", ".", "-LRB-", "iii", "-RRB-", "For", "the", "condition", "''", "-LRB-", "k", ";", "n", "-RRB-", "2", "C", "''", "can", "be", "tested", "in", "at", "most", "steps", ".", "-LRB-", "iv", "-RRB-", "By", "-LRB-", "iii", "-RRB-", ",", "for", "the", "computation", "of", "d", "i", ";", "k", "-LRB-", "wb", "-RRB-", "requires", "at", "most", "O", "-LRB-", "n", "steps", ".", "-LRB-", "v", "-RRB-", "By", "-LRB-", "ii", "-RRB-", "and", "-LRB-", "iv", "-RRB-", ",", "the", "entire", "computation", "of", "d", "k", ";", "n", "-LRB-", "wb", "-RRB-", ",", "i.e.", ",", "the", "for-loop", "in", "Figure", "4", ",", "requires", "at", "most", "2", "O", "-LRB-", "-LRB-", "1", "+", "jkj", "-RRB-", "-LRB-", "1", "+", "jnj", "-RRB-", "-RRB-", "+", "-LRB-", "2n", "+2", "-RRB-", "2", "O", "-LRB-", "-LRB-", "1", "+", "jkj", "-RRB-", "-LRB-", "1", "+", "jnj", "-RRB-", "-RRB-", "steps", ".", "-LRB-", "vi", "-RRB-", "As", "in", "-LRB-", "iii", "-RRB-", ",", "for", "the", "condition", "''", "-LRB-", "k", ";", "n", "-RRB-", "2", "C", "''", "can", "be", "tested", "in", "at", "most", "2", "O", "-LRB-", "-LRB-", "1", "+", "jkj", "-RRB-", "-LRB-", "1", "+", "jnj", "-RRB-", "-RRB-", "steps", ".", "Thus", ",", "testing", "the", "condition", "''", "'", "-LRB-", "k", ";", "n", "-RRB-", "-", "k", ",", "''", "and", "computing", "'", "-LRB-", "k", ";", "n", "-RRB-", "if", "this", "condition", "is", "true", ",", "requires", "at", "most", "steps", ".", "It", "follows", "easily", "that", "the", "if-then-else", "in", "Figure", "4", "requires", "at", "most", "2", "O", "-LRB-", "-LRB-", "1", "+", "jkj", "-RRB-", "-LRB-", "1", "+", "jnj", "-RRB-", "-RRB-", "steps", ".", "By", "-LRB-", "i", "-RRB-", ",", "-LRB-", "v", "-RRB-", ",", "and", "-LRB-", "vi", "-RRB-", "above", ",", "the", "computation", "described", "in", "Figure", "4", "requires", "at", "most", "2", "O", "-LRB-", "-LRB-", "1", "+", "jkj", "-RRB-", "-LRB-", "1", "+", "jnj", "-RRB-", "-RRB-", "steps", "to", "compute", "given", "the", "set", "D", "k", ";", "n", "and", "the", "values", "The", "condition", "hk", ";", "ni", "2", "H", "can", "now", "be", "decided", "by", "computing", "and", "storing", "the", "successive", "values", "according", "to", "the", "!", "-", "ordering", "of", "N", "2", ",", "using", "the", "computation", "in", "Figure", "4", "and", "updating", "D", "j", ";", "n", "at", "each", "stage", ".", "This", "requires", "at", "most", "-LRB-", "1", "steps", ".", "Since", "proves", "that", "H", "2", "E", "2", ".", "Also", ",", "for", "fixed", "k", ",", "Lemma", "4.5", ".", "For", "all", "i", "2", "N", ",", "if", "there", "exist", "infinitely", "many", "k", "2", "N", "such", "that", "the", "slice", "C", "i", ";", "k", "is", "nonempty", ",", "then", "f", "i", "is", "not", "a", "many-one", "reduction", "of", "H.", "Proof", ".", "Fix", "assume", "that", "the", "set", "is", "infinite", ".", "For", "each", "k", "2", "S", ",", "let", "n", "i", ";", "k", ".", "For", "every", "k", "2", "S", ",", "at", "least", "one", "of", "the", "following", "four", "conditions", "must", "hold", ".", "-LRB-", "In", "fact", ",", "for", "all", "real", "numbers", "a", ",", "b", ",", "and", "c", ",", "at", "least", "one", "of", "a", "?", "c", ",", "a", "!", "b", ",", "must", "hold", ".", "-RRB-", "It", "is", "clear", "that", "condition", "-LRB-", "i", "-RRB-", "holds", "for", "only", "finitely", "many", "k.", "For", "each", "k", "such", "that", "condition", "-LRB-", "iii", "-RRB-", "holds", ",", "the", "construction", "of", "H", "ensures", "that", "f", "'", "-LRB-", "k", ";", "n", "k", "-RRB-", "is", "destroyed", "at", "-LRB-", "k", ";", "n", "k", "-RRB-", ".", "Since", "each", "f", "j", "is", "destroyed", "at", "most", "once", "in", "the", "construction", "of", "H", ",", "it", "follows", "that", "condition", "-LRB-", "iii", "-RRB-", "holds", "for", "only", "finitely", "many", "k", ".", "Since", "S", "is", "infinite", ",", "this", "implies", "that", "there", "is", "some", "such", "that", "condition", "-LRB-", "ii", "-RRB-", "or", "condition", "-LRB-", "iv", "-RRB-", "holds", ".", "Fix", "such", "a", "number", "k", ".", "If", "condition", "-LRB-", "ii", "-RRB-", "holds", ",", "then", "i", "2", "D", "k", ";", "n", "k", "-LRB-", "because", "is", "not", "a", "many-one", "reduction", "of", "H", ".", "If", "condition", "-LRB-", "iv", "-RRB-", "holds", ",", "then", "f", "i", "is", "destroyed", "at", "-LRB-", "k", ";", "n", "k", "-RRB-", ",", "so", "f", "i", "is", "not", "a", "many-one", "reduction", "of", "H.", "Thus", ",", "in", "any", "case", ",", "f", "i", "is", "not", "a", "many-one", "reduction", "of", "H.", "2", "Lemma", "4.6", ".", "For", "all", "is", "a", "many-one", "reduction", "of", "H", "and", "C", "i", ";", "k", "is", "infinite", ",", "then", "d", "i", ";", "k", "succeeds", "on", "H", "k", ".", "Proof", ".", "Assume", "that", "is", "a", "many-one", "reduction", "of", "H", ",", "and", "C", "i", ";", "k", "is", "infinite", ".", "Consider", "the", "successive", "values", "Clause", "-LRB-", "a", "-RRB-", "of", "the", "definition", "of", "d", "i", ";", "k", "says", "that", "r", "clauses", "-LRB-", "b", "-RRB-", "and", "-LRB-", "c", "-RRB-", "ensure", "that", "each", "r", "n", "+1", "2", "f0", ";", "r", "g", ".", "In", "fact", ",", "since", "f", "i", "is", "a", "reduction", "of", "H", ",", "clause", "-LRB-", "c", "-RRB-", "never", "causes", "r", "n", "+1", "to", "be", "0", ".", "We", "thus", "have", "the", "recurrence", "i", ";", "k", ".", "Since", "C", "i", ";", "k", "is", "infinite", ",", "this", "implies", "that", "r", "succeeds", "on", "H", "k", ".", "2", "Lemma", "4.7", ".", "For", "all", "k", "2", "N", ",", "e", "d", "k", "does", "not", "succeed", "on", "H", "k", ".", "Proof", ".", "Fix", "k", "2", "N", "and", "consider", "the", "manner", "in", "which", "the", "values", "are", "decided", "for", "There", "can", "be", "at", "most", "finitely", "many", "values", "of", "n", "for", "which", "Case", "1", "holds", ".", "-LRB-", "This", "is", "because", "each", "occurrence", "of", "Case", "1", "involves", "a", "new", "value", "of", "'", "-LRB-", "k", ";", "n", "-RRB-", ",", "with", "'", "-LRB-", "k", ";", "n", "-RRB-", "-", "k.", "-RRB-", "Thus", "there", "exists", "n", "0", "2", "N", "such", "that", "Case", "2", "holds", "for", "all", "n", "-", "n", "0", ".", "For", "all", "n", "2", "N", ",", "let", "be", "the", "n-bit", "prefix", "of", "-", "H", "k", ".", "Then", ",", "for", "all", "m", "-", "n", "0", ",", "Case", "2", "ensures", "that", "e", "d", "k", ";", "m", "-LRB-", "wm", "+1", "d", "k", ";", "m", "-LRB-", "wm", "d", "k", ";", "m", "-LRB-", "wm", "1", "-RRB-", "+", "2", "\\", "Gammam", "e", "e", "It", "follows", "that", ",", "for", "all", "n", "-", "n", "0", ",", "e", "Thus", ",", "if", "e", "then", "e", "for", "all", "n", "2", "N.", "Hence", "e", "d", "k", "does", "not", "succeed", "on", "H", "k", ".", "2", "Lemma", "4.8", ".", "H", "is", "weakly", "-", "P", "m", "-", "hard", "for", "E.", "Proof", ".", "Let", "k", "2", "N", ".", "It", "is", "clear", "that", "H", "k", "2", "Pm", "-LRB-", "H", "-RRB-", "and", "S", "1", "-LSB-", "d", "k", "d", "k", "-RSB-", ".", "It", "follows", "by", "Lemmas", "4.4", "and", "4.7", "that", "whence", "Pm", "arbitrary", "here", ",", "this", "implies", "that", "E", "-RRB-", "6", "=", "0", ",", "i.e.", ",", "that", "-", "-LRB-", "Pm", "-LRB-", "H", "-RRB-", "j", "E", "-RRB-", "6", "=", "0", ".", "Thus", "H", "is", "weakly", "-", "P", "for", "Lemma", "4.9", ".", "H", "is", "not", "-", "P", "m", "-", "hard", "for", "E.", "Proof", ".", "By", "Theorem", "4.2", ",", "it", "suffices", "to", "show", "that", "H", "is", "incompressible", "by", "-", "reductions", ".", "For", "this", ",", "fix", "i", "2", "N", "such", "that", "f", "i", "is", "a", "many-one", "reduction", "of", "H", ".", "It", "suffices", "to", "show", "that", "f", "i", "is", "one-to-one", "almost", "everywhere", ".", "Note", "the", "following", "two", "things", ".", "-LRB-", "i", "-RRB-", "For", "each", "k", "2", "N", ",", "the", "slice", "C", "i", ";", "k", "is", "finite", "by", "Lemmas", "4.7", "and", "4.6", ".", "-LRB-", "ii", "-RRB-", "By", "Lemma", "4.5", ",", "there", "are", "only", "finitely", "many", "k", "2", "N", "such", "that", "C", "Taken", "together", ",", "-LRB-", "i", "-RRB-", "and", "-LRB-", "ii", "-RRB-", "imply", "that", "C", "i", "is", "finite", ".", "It", "follows", "by", "Lemma", "4.3", "that", "f", "i", "is", "one-to-one", "almost", "everywhere", ".", "2", "By", "Lemmas", "4.4", ",", "4.8", ",", "and", "4.9", ",", "the", "language", "H", "but", "not", "-", "P", "m", "-", "hard", ",", "for", "E.", "From", "this", ",", "a", "simple", "padding", "argument", "suffices", "to", "prove", "the", "Main", "Theorem", ".", "Proof", "of", "Main", "Theorem", ".", "Let", "H", "be", "defined", "as", "above", ".", "By", "Lemma", "4.4", ",", "there", "is", "a", "polynomial", "q", "-LRB-", "n", "-RRB-", "-", "n", "such", "that", "H", "2", "DTIME", "-LRB-", "2", "q", "-LRB-", "n", "-RRB-", "-RRB-", ".", "Let", "It", "is", "easy", "to", "check", "that", "C", "2", "E", "and", "that", "Pm", "It", "follows", "by", "Lemmas", "4.8", "and", "4.9", "that", "C", "is", "weakly", "-", "P", "m", "-", "complete", ",", "but", "not", "-", "P", "for", "5", "Conclusion", "The", "most", "important", "problem", "suggested", "by", "this", "work", "is", "to", "find", "``", "natural", "''", "examples", "of", "languages", "that", "are", "weakly", "-", "P", "m", "-", "complete", ",", "but", "not", "-", "P", "for", "E", ".", "As", "noted", "in", "section", "1", ",", "such", "languages", "would", "provably", "be", "strongly", "intractable", ".", "It", "is", "reasonable", "to", "hope", "that", "the", "study", "of", "such", "natural", "examples", "would", "yield", "new", "insights", "into", "the", "nature", "of", "intractability", ".", "It", "is", "especially", "intriguing", "to", "consider", "the", "possibility", "that", "SAT", "and", "other", "natural", "NP-complete", "problems", "may", "be", "weakly", "-", "P", "m", "-", "complete", "for", "E", ",", "i.e.", ",", "that", "NP", "may", "not", "have", "measure", "0", "in", "E", ".", "The", "hypothesis", "that", "SAT", "is", "weakly", "-", "P", "complete", "for", "E", "implies", ",", "but", "may", "in", "some", "sense", "be", "stronger", "than", ",", "the", "P", "6", "=", "NP", "hypothesis", ".", "For", "example", ",", "recent", "work", "has", "shown", "that", ",", "if", "SAT", "is", "weakly", "m", "-", "complete", "for", "E", ",", "then", "NP", "contains", "P-bi-immune", "languages", "-LSB-", "14", "-RSB-", ",", "every", "-", "hard", "language", "for", "NP", "is", "dense", "-LSB-", "11", "-RSB-", ",", "every", "-", "P", "-", "complete", "language", "for", "NP", "has", "a", "dense", "exponential", "complexity", "core", "-LSB-", "7", "-RSB-", ",", "and", "there", "is", "a", "language", "that", "is", "T", "-", "complete", ",", "but", "not", "-", "P", "m", "-", "complete", ",", "for", "NP", "-LSB-", "12", "-RSB-", ".", "Further", "investigation", "of", "the", "consequences", "and", "reasonableness", "of", "this", "hypothesis", "is", "indicated", ".", "It", "is", "routine", "to", "modify", "the", "proof", "of", "the", "Main", "Theorem", "to", "construct", "languages", "that", "are", "weakly", "-", "P", "m", "-", "complete", ",", "but", "not", "-", "P", "m", "-", "complete", ",", "for", "larger", "classes", "such", "as", "E", "2", "and", "ESPACE", ".", "A", "more", "interesting", ",", "and", "perhaps", "harder", ",", "question", "concerns", "alternate", "versions", "of", "the", "Main", "Theorem", "in", "which", "-", "P", "m", "is", "replaced", "by", "other", "reducibilities", ".", "Homer", ",", "Kurtz", ",", "and", "Royer", "-LSB-", "5", "-RSB-", "have", "proven", "that", "a", "language", "1", "\\", "Gammatt", "-", "hard", "for", "E", "if", "and", "only", "if", "it", "is", "-", "P", "m", "-", "hard", "for", "E", ".", "It", "follows", "immediately", "that", "the", "language", "C", "given", "by", "the", "Main", "Theorem", "is", "weakly", "-", "P", "but", "not", "-", "P", "1", "\\", "Gammatt", "-", "complete", ",", "for", "E", ".", "That", "is", ",", "the", "Main", "Theorem", "holds", "with", "-", "P", "replaced", "by", "-", "P", "1", "\\", "Gammatt", ".", "Beyond", "this", ",", "little", "is", "known", ".", "New", "techniques", "may", "be", "required", "to", "determine", "whether", "the", "Main", "Theorem", "holds", "with", "-", "P", "replaced", "by", "-", "P", "T", ".", "Acknowledgments", ".", "I", "thank", "Jim", "Royer", "and", "Tom", "Linton", "for", "several", "useful", "suggestions", "on", "an", "earlier", "draft", "of", "this", "paper", ".", "--", "R", "On", "isomorphism", "and", "density", "of", "NP", "and", "other", "complete", "sets", "Measure", "Theory", "On", "the", "computational", "complexity", "of", "algorithms", "Some", "observations", "about", "the", "randomness", "of", "hard", "prob", "-", "lems", "The", "complexity", "and", "distribution", "of", "hard", "problems", "in", "preparation", ".", "Category", "and", "measure", "in", "complexity", "classes", "Almost", "everywhere", "high", "nonuniform", "complexity", "the", "density", "of", "hard", "languages", "Separating", "completeness", "notions", "if", "NP", "is", "not", "small", "On", "reducibility", "to", "complex", "or", "sparse", "sets", "Almost", "every", "set", "in", "exponential", "time", "is", "P-bi-immune", "reported", "in", "The", "density", "and", "complexity", "of", "polynomial", "cores", "for", "intractable", "sets", "Measure", "and", "Category", "Real", "Analysis", "Klassifikation", "der", "Zufallsgesetze", "nach", "Komplexit-at", "und", "Ordnung", "A", "unified", "approach", "to", "the", "definition", "of", "random", "sequences", "Lecture", "Notes", "in", "Mathematics", "218", "Process", "complexity", "and", "effective", "random", "tests", "Complete", "sets", "and", "closeness", "to", "complexity", "classes", "Provably", "difficult", "combinatorial", "games", "Classifying", "the", "computational", "complexity", "of", "problems", "--", "TR", "--", "CTR", "Stephen", "A.", "Fenner", ",", "Jack", "H.", "Lutz", ",", "Elvira", "Mayordomo", ",", "Patrick", "Reardon", ",", "Weakly", "useful", "sequences", ",", "Information", "and", "Computation", ",", "v.", "197", "n.", "1/2", ",", "p.41-54", ",", "February", "25", ",", "2005/March", "15", ",", "2005", "Olivier", "Powell", ",", "A", "note", "on", "measuring", "in", "P", ",", "Theoretical", "Computer", "Science", ",", "v.", "320", "n.2-3", ",", "p.229-246", ",", "June", "14", ",", "2004", "Klaus", "Ambos-Spies", ",", "Wolfgang", "Merkle", ",", "Jan", "Reimann", ",", "Sebastiaan", "A.", "Terwijn", ",", "Almost", "complete", "sets", ",", "Theoretical", "Computer", "Science", ",", "v.", "306", "n.1-3", ",", "p.177-194", ",", "5", "September" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "--", "T", "Localizing", "Failures", "in", "Distributed", "Synchronization", ".", "--", "A", "AbstractThe", "fault-tolerance", "of", "distributed", "algorithms", "is", "investigated", "in", "asynchronous", "message", "passing", "systems", "with", "undetectable", "process", "failures", ".", "Two", "specific", "synchronization", "problems", "are", "considered", ",", "the", "dining", "philosophers", "problem", "and", "the", "binary", "committee", "coordination", "problem", ".", "The", "abstraction", "of", "a", "bounded", "doorway", "is", "introduced", "as", "a", "general", "mechanism", "for", "achieving", "individual", "progress", "and", "good", "failure", "locality", ".", "Using", "it", "as", "a", "building", "block", ",", "optimal", "fault-tolerant", "algorithms", "are", "constructed", "for", "the", "two", "problems", ".", "--", "B", "Introduction", "The", "ability", "to", "tolerate", "failures", "is", "an", "important", "design", "requirement", "of", "computer", "systems", "in", "general", ",", "and", "of", "distributed", "systems", "in", "particular", "as", "the", "detection", "of", "failures", "becomes", "difficult", "in", "such", "systems", ".", "We", "investigate", "the", "effects", "of", "failures", "on", "distributed", "synchronization", "problems", "that", "require", "the", "co-operation", "of", "a", "set", "of", "independent", "processes", ".", "The", "specific", "problems", "we", "study", "assume", "an", "underlying", "undirected", "graph", "that", "defines", "the", "neighborhood", "of", "the", "processes", ".", "Inter-process", "communication", "is", "through", "message-passing", "and", "is", "only", "possible", "between", "neighboring", "processes", ".", "The", "goal", "is", "to", "design", "solutions", "for", "which", "the", "effect", "of", "the", "failure", "of", "a", "process", "can", "be", "confined", "to", "its", "immediate", "neighborhood", ".", "In", "other", "words", ",", "we", "are", "interested", "in", "solutions", "where", "processes", "are", "shielded", "from", "the", "effects", "of", "non-local", "failures", ".", "We", "assume", "the", "fail-stop", "model", "in", "which", "failures", "are", "undetectable", "and", "failed", "processes", "are", "indistinguishable", "from", "processes", "that", "are", "very", "slow", ".", "We", "choose", "the", "problems", "of", "dining", "philosophers", "and", "committee", "coordination", "as", "representatives", "of", "the", "class", "of", "distributed", "synchronization", "problems", ".", "The", "dining", "philosophers", "problem", "is", "a", "generalization", "of", "the", "mutual", "exclusion", "problem", "and", "can", "be", "used", "to", "solve", "many", "other", "synchronization", "problems", ".", "The", "committee", "coordination", "problem", "occurs", "in", "languages", "such", "as", "CSP", "-LSB-", "4", "-RSB-", "and", "Ada", "-LSB-", "1", "-RSB-", "that", "are", "based", "on", "synchronous", "message", "communication", ".", "We", "use", "failure", "locality", "-LSB-", "6", "-RSB-", "to", "measure", "the", "degree", "of", "fault", "-", "tolerance", ".", "The", "failure", "locality", "of", "an", "algorithm", "denotes", "the", "size", "of", "the", "neighborhood", "that", "gets", "affected", "by", "a", "failure", ".", "Thus", ",", "if", "an", "algorithm", "has", "a", "failure", "locality", "of", "m", "then", "any", "process", "for", "which", "there", "are", "no", "failures", "within", "a", "distance", "of", "m", "in", "the", "underlying", "graph", "executes", "as", "if", "no", "failures", "occurred", ".", "In", "other", "words", ",", "any", "such", "process", "continues", "to", "meet", "the", "specified", "safety", "and", "progress", "properties", ".", "The", "main", "contribution", "of", "this", "paper", "is", "the", "presentation", "of", "tight", "lower", "bounds", "on", "the", "failure", "locality", "of", "solutions", "to", "the", "dining", "philosophers", "and", "the", "committee", "coordination", "problem", ".", "This", "is", "achieved", "through", "the", "presentation", "of", "lower", "bounds", "and", "the", "design", "of", "solutions", "that", "achieve", "them", ".", "As", "a", "part", "of", "the", "optimal", "algorithms", ",", "we", "also", "introduce", "the", "idea", "of", "a", "bounded", "doorway", ".", "This", "doorway", "has", "the", "interesting", "property", "that", "when", "coupled", "with", "an", "algorithm", "ensuring", "the", "absence", "of", "global", "starvation", ",", "the", "doorway", "ensures", "the", "absence", "of", "local", "starvation", "without", "adding", "to", "the", "failure", "locality", "of", "the", "algorithm", ".", "This", "is", "in", "contrast", "to", "other", "kind", "of", "doorways", "-LSB-", "6", ",", "13", "-RSB-", "that", "add", "to", "the", "failure", "locality", "of", "the", "underlying", "algorithm", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "In", "Section", "2", "we", "present", "some", "of", "the", "relevant", "back", "-", "ground", ".", "In", "Section", "3", ",", "we", "introduce", "the", "idea", "of", "bounded", "doorways", ".", "In", "Section", "4", ",", "we", "solve", "the", "dining", "philosophers", "problem", "with", "an", "optimal", "failure", "locality", ".", "In", "Section", "5", ",", "we", "solve", "the", "committee", "coordination", "problem", "again", "with", "an", "optimal", "failure", "locality", ".", "A", "brief", "discussion", "appears", "in", "Section", "6", "and", "an", "appendix", "contains", "the", "proofs", "of", "some", "theorems", "used", "in", "the", "main", "body", "of", "the", "paper", ".", "Relevant", "Background", "Locality", "of", "distributed", "computation", "has", "been", "studied", "by", "many", "authors", "-LSB-", "2", ",", "14", ",", "19", ",", "20", "-RSB-", ".", "Linial", "-LSB-", "14", "-RSB-", "considered", "the", "problem", "of", "computing", "functions", "that", "do", "not", "require", "global", "communication", ".", "To", "compute", "a", "function", ",", "each", "process", "starts", "with", "some", "local", "data", ".", "During", "the", "computation", ",", "information", "is", "exchanged", "between", "neighboring", "processes", ".", "Finally", ",", "each", "of", "the", "processes", "terminates", "and", "returns", "a", "value", ".", "A", "function", "is", "said", "to", "be", "computed", "locally", "-LSB-", "2", "-RSB-", "if", "it", "can", "be", "computed", "in", "a", "time", "less", "than", "the", "diameter", "of", "the", "network", ".", "Some", "of", "these", "functions", "include", "finding", "a", "maximal", "independent", "set", "-LSB-", "2", ",", "11", ",", "14", ",", "15", "-RSB-", "or", "computing", "nodes", "and", "edge", "colorings", "of", "a", "network", "-LSB-", "2", ",", "10", "-RSB-", ".", "In", "this", "paper", ",", "we", "investigate", "the", "locality", "of", "distributed", "synchronization", "problems", "that", "do", "not", "require", "processes", "to", "terminate", "and", "return", "results", ".", "In", "particular", ",", "we", "concentrate", "on", "the", "dining", "philosophers", "problem", "-LSB-", "8", ",", "16", "-RSB-", "and", "the", "committee", "coordination", "problem", "-LSB-", "5", "-RSB-", ".", "The", "dining", "philosophers", "problem", "consists", "of", "a", "set", "of", "processes", "and", "a", "set", "of", "resources", "that", "are", "modeled", "by", "a", "conflict", "graph", ".", "Each", "process", "is", "mapped", "to", "a", "node", "of", "the", "conflict", "graph", "and", "each", "resource", "is", "mapped", "to", "an", "edge", ".", "Many", "solutions", "to", "the", "dining", "philosophers", "problem", "appear", "in", "the", "literature", "-LSB-", "3", ",", "5", ",", "6", ",", "16", ",", "20", "-RSB-", ".", "Styer", "and", "Peterson", "-LSB-", "20", "-RSB-", "are", "perhaps", "the", "first", "to", "consider", "the", "issue", "of", "locality", "for", "this", "problem", ".", "They", "measure", "the", "locality", "of", "an", "algorithm", "by", "the", "length", "of", "the", "longest", "waiting", "chain", "of", "processes", "that", "may", "be", "formed", "in", "the", "system", ".", "We", "formalize", "this", "idea", "of", "waiting", "chains", "to", "the", "notion", "of", "failure", "locality", ".", "For", "the", "dining", "philosophers", "problem", ",", "failure", "locality", "of", "an", "algorithm", "is", "defined", "as", "the", "smallest", "number", "m", "such", "that", "any", "process", ",", "for", "which", "there", "are", "no", "failures", "within", "a", "distance", "of", "m", "in", "the", "conflict", "graph", ",", "is", "free", "from", "starvation", ".", "The", "algorithms", "obtained", "by", "Styer", "and", "Peterson", "achieve", "a", "failure", "locality", "of", "3", ".", "Recently", ",", "we", "considered", "the", "problem", "of", "achieving", "a", "good", "failure", "locality", "in", "conjunction", "with", "the", "problem", "of", "achieving", "a", "good", "response", "time", "and", "a", "good", "message", "complexity", "-LSB-", "6", "-RSB-", ".", "We", "presented", "solutions", "that", "achieved", "a", "failure", "locality", "of", "4", "while", "maintaining", "a", "quadratic", "-LRB-", "in", "the", "degree", "of", "the", "conflict", "graph", "-RRB-", "response", "time", "and", "a", "quadratic", "message", "complexity", ".", "The", "paper", "also", "contains", "an", "algorithm", "that", "achieves", "a", "failure", "locality", "of", "3", ".", "However", ",", "the", "question", "of", "the", "best", "achievable", "failure", "locality", "remained", "open", ".", "The", "committee", "coordination", "problem", "consists", "of", "a", "set", "of", "interactions", "-LRB-", "or", "committees", "-RRB-", "and", "a", "set", "of", "processes", ".", "The", "problem", "initially", "arose", "out", "of", "rendezvous-based", "communication", "in", "languages", "like", "CSP", "and", "Ada", "-LSB-", "1", ",", "4", "-RSB-", "where", "a", "subset", "of", "processes", "needs", "to", "exchange", "information", "in", "a", "synchronous", "manner", ".", "A", "conflict", "graph", "can", "be", "constructed", "for", "this", "problem", "by", "mapping", "each", "interaction", "to", "a", "node", "and", "placing", "an", "edge", "between", "interactions", "that", "share", "a", "common", "process", ".", "We", "concentrate", "on", "the", "binary", "version", "of", "the", "problem", "in", "which", "every", "interaction", "has", "two", "members", ".", "Both", "the", "binary", "and", "the", "general", "versions", "of", "the", "problem", "have", "been", "solved", "by", "many", "researchers", "-LSB-", "4", ",", "5", ",", "6", ",", "12", ",", "18", ",", "19", "-RSB-", ".", "Sistla", "-LSB-", "19", "-RSB-", "calls", "a", "solution", "to", "the", "problem", "to", "be", "real", "time", "if", "its", "complexity", "is", "independent", "of", "the", "size", "of", "the", "communication", "network", ".", "He", "also", "investigates", "the", "formation", "of", "waiting", "chains", "and", "then", "uses", "this", "to", "derive", "a", "lower", "bound", "on", "the", "response", "time", ".", "We", "define", "the", "failure", "locality", "of", "solutions", "to", "the", "committee", "coordination", "problem", "to", "be", "the", "smallest", "number", "m", "such", "that", "any", "continuously", "ready", "interaction", ",", "for", "which", "there", "are", "no", "failures", "within", "a", "distance", "of", "m", "in", "the", "conflict", "graph", ",", "will", "be", "eventually", "committed", ".", "Recently", ",", "we", "presented", "solutions", "to", "the", "committee", "coordination", "problem", "with", "a", "failure", "locality", "of", "2", "-LSB-", "6", "-RSB-", ".", "But", ",", "once", "more", "the", "question", "of", "the", "optimal", "failure", "locality", "remained", "open", ".", "3", "Bounded", "Doorways", "Solutions", "to", "problems", "requiring", "the", "absence", "of", "local", "starvation", "are", "often", "composed", "of", "two", "parts", "-LSB-", "6", ",", "13", ",", "20", "-RSB-", ".", "The", "first", "part", "satisfies", "all", "the", "requirements", "of", "the", "problem", "except", "that", "it", "ensures", "the", "absence", "of", "global", "starvation", "-LRB-", "i.e.", ",", "no", "deadlocks", "-RRB-", ".", "The", "second", "part", "of", "the", "solution", ",", "usually", "called", "a", "doorway", ",", "translates", "the", "absence", "of", "global", "starvation", "of", "the", "underlying", "solution", "into", "the", "absence", "of", "local", "starvation", "-LRB-", "i.e.", ",", "progress", "with", "respect", "to", "each", "process", "-RRB-", "for", "the", "composite", "solution", ".", "In", "other", "words", ",", "a", "doorway", "D", "takes", "a", "program", "F", "ensuring", "the", "absence", "of", "global", "starvation", ",", "and", "produces", "a", "composite", "program", "consisting", "of", "F", "and", "D", "such", "that", "local", "starvation", "does", "not", "occur", ".", "Various", "kinds", "of", "doorways", "have", "been", "defined", "and", "used", "in", "the", "literature", ".", "A", "basic", "kind", "called", "the", "first-come-first-served", "doorway", "was", "defined", "and", "used", "by", "Lamport", "in", "-LSB-", "13", "-RSB-", "in", "the", "context", "of", "the", "mutual", "exclusion", "problem", ".", "This", "doorway", "consists", "of", "a", "finite", "sequence", "of", "non-waiting", "statements", "and", "enforces", "a", "first-come-first-served", "behavior", ".", "Though", "useful", "for", "shared", "variable", "systems", ",", "this", "doorway", "can", "not", "be", "used", "for", "message", "based", "systems", "as", "the", "doorway", "would", "have", "to", "consist", "of", "waiting", "statements", "in", "order", "to", "enforce", "a", "first-come-first-served", "behavior", ".", "A", "variant", "of", "this", "doorway", "was", "used", "by", "Styer", "and", "Peterson", "to", "solve", "the", "dining", "philosophers", "problem", "in", "a", "message", "based", "model", "similar", "to", "ours", "-LSB-", "20", "-RSB-", ".", "In", "their", "scheme", "neighboring", "processes", "executes", "a", "P", "operation", "on", "a", "common", "semaphore", "-LRB-", "implemented", "by", "passing", "messages", "-RRB-", "while", "entering", "the", "doorway", "and", "a", "V", "operation", "while", "exiting", "the", "doorway", ".", "Two", "other", "kinds", "of", "doorways", "called", "single", "doorway", "and", "double", "doorway", "were", "introduced", "in", "-LSB-", "6", "-RSB-", "in", "order", "to", "avoid", "unbounded", "overtaking", ".", "All", "the", "above", "doorways", "require", "processes", "outside", "the", "doorway", "to", "wait", "for", "processes", "inside", "the", "doorway", "and", "this", "increases", "the", "failure", "locality", "of", "the", "composite", "solution", "by", "at", "least", "one", ".", "In", "this", "paper", ",", "we", "introduce", "a", "new", "kind", "of", "a", "doorway", "that", "does", "not", "increase", "the", "failure", "locality", "of", "the", "underlying", "computation", ".", "This", "doorway", ",", "referred", "to", "as", "a", "bounded", "doorway", ",", "is", "implemented", "by", "dynamically", "assigning", "a", "set", "of", "distinct", "IDs", "to", "the", "processes", ".", "The", "IDs", "are", "distinct", "and", "used", "for", "resolving", "conflicts", "that", "occur", "during", "the", "execution", "of", "the", "algorithm", ".", "We", "assume", "that", "the", "underlying", "solution", "resolves", "conflicts", "in", "favor", "of", "the", "process", "with", "a", "smaller", "ID", ".", "In", "the", "doorway", "algorithm", ",", "a", "process", "that", "has", "just", "made", "some", "progress", "selects", "a", "neighbor", "with", "a", "higher", "ID", "to", "perform", "an", "ID", "exchange", ".", "This", "exchange", "results", "in", "the", "neighbor", "having", "a", "smaller", "ID", "-LRB-", "i.e.", "higher", "priority", "-RRB-", "than", "before", ".", "An", "ID", "exchange", "involves", "sending", "an", "exchg", "message", "to", "the", "selected", "neighbor", ",", "waiting", "for", "an", "acknowledgement", "to", "be", "returned", ",", "and", "a", "broadcast", "of", "the", "new", "ID", "to", "other", "processes", ".", "The", "process", "receiving", "an", "exchg", "message", "agrees", "to", "the", "exchange", "of", "IDs", "only", "if", "this", "will", "lead", "to", "a", "smaller", "ID", "and", "the", "process", "is", "not", "currently", "participating", "in", "another", "exchange", ".", "Each", "process", "maintains", "a", "queue", "of", "neighbors", "and", "chooses", "the", "candidate", "process", "for", "ID", "exchange", "by", "scanning", "the", "queue", "for", "a", "process", "with", "a", "higher", "ID", ".", "-LRB-", "No", "exchange", "is", "needed", "if", "all", "neighbors", "have", "a", "lower", "ID", ".", "-RRB-", "In", "order", "to", "ensure", "fairness", ",", "the", "process", "so", "chosen", "is", "placed", "at", "the", "end", "of", "the", "queue", "after", "the", "exchange", "of", "IDs", ".", "Thus", ",", "a", "process", "that", "makes", "progress", "infinitely", "often", "while", "its", "neighbors", "are", "starving", "will", "eventually", "have", "a", "higher", "ID", "-LRB-", "and", "consequently", "a", "lower", "priority", "-RRB-", "than", "all", "its", "neighbors", ".", "This", "will", "allow", "the", "neighbors", "to", "make", "progress", "and", "avoid", "starvation", ".", "4", "The", "Dining", "Philosophers", "Problem", "4.1", "Problem", "Description", "The", "problem", "consists", "of", "a", "number", "of", "processes", "each", "of", "which", "may", "be", "in", "one", "of", "three", "states", ":", "thinking", ",", "hungry", ",", "or", "eating", ".", "Predicate", "thinking", "i", "denotes", "that", "process", "i", "is", "thinking", ".", "Predicates", "hungry", "i", "and", "eating", "i", "are", "defined", "similarly", ".", "Initially", "every", "process", "is", "thinking", ".", "A", "thinking", "process", "becomes", "hungry", "when", "it", "needs", "to", "access", "the", "resources", "on", "the", "adjoining", "edges", ".", "A", "process", "stays", "hungry", "until", "it", "is", "allowed", "to", "eat", "by", "the", "dining", "philosophers", "algorithm", ".", "A", "process", "accesses", "the", "resources", "during", "its", "eating", "period", ",", "which", "is", "assumed", "to", "be", "finite", ".", "After", "that", "an", "eating", "process", "transits", "to", "the", "thinking", "state", ".", "A", "dining", "philosophers", "algorithm", "should", "satisfy", "two", "requirements", ":", "mutual", "exclusion", "which", "requires", "that", "neighboring", "processes", "do", "not", "eat", "at", "the", "same", "time", "and", "no", "starvation", "which", "requires", "that", "every", "hungry", "process", "eventually", "gets", "a", "chance", "to", "eat", ".", "A", "process", "may", "fail", "at", "any", "time", "during", "a", "computation", ".", "The", "failure", "of", "a", "process", "i", "is", "modeled", "by", "an", "auxiliary", "predicate", "failed", "i", ".", "This", "predicate", "is", "initially", "false", "and", "is", "set", "to", "true", "by", "the", "failure", "of", "process", "i", ".", "Once", "it", "is", "true", ",", "it", "remains", "true", "forever", ".", "We", "assume", "the", "fail-stop", "mode", "of", "failures", "in", "which", "the", "failure", "of", "a", "process", "is", "undetectable", ".", "In", "particular", ",", "this", "implies", "that", "the", "predicate", "failed", "i", "can", "not", "be", "used", "in", "the", "code", "of", "an", "algorithm", ".", "-LRB-", "The", "predicate", "can", "however", "be", "used", "in", "the", "proofs", "of", "correctness", ".", "-RRB-", "As", "stated", "earlier", ",", "we", "measure", "the", "fault-tolerance", "of", "an", "algorithm", "by", "its", "failure", "locality", ".", "Formally", ",", "the", "failure", "locality", "of", "an", "algorithm", "is", "defined", "as", "the", "smallest", "number", "m", "such", "that", "any", "process", ",", "for", "which", "there", "are", "no", "failures", "within", "a", "distance", "of", "m", "in", "the", "conflict", "graph", ",", "is", "free", "from", "starvation", ".", "We", "require", "that", "failures", "have", "no", "effect", "on", "the", "safety", "properties", "-LRB-", "such", "as", "mutual", "exclusion", "-RRB-", "of", "an", "algorithm", ".", "For", "example", ",", "consider", "the", "conflict", "graph", "of", "7", "processes", "shown", "in", "Figure", "1", ".", "If", "the", "failure", "locality", "of", "an", "algorithm", "is", "at", "most", "1", "then", "failures", "do", "not", "have", "any", "effect", "on", "the", "progress", "of", "processes", "outside", "the", "immediate", "neighborhood", "of", "the", "failed", "process", ".", "In", "other", "words", ",", "the", "failure", "of", "process", "1", "can", "only", "starve", "processes", "2,3", ",", "and", "4", ",", "the", "failure", "of", "process", "4", "can", "only", "starve", "processes", "1,2,3,5", ",", "and", "6", ",", "and", "so", "on", ".", "If", "an", "algorithm", "has", "a", "failure", "locality", "of", "2", "then", "the", "failure", "of", "process", "1", "can", "not", "starve", "process", "7", "and", "vice-versa", ".", "Figure", "1", ":", "Example", "of", "a", "Conflict", "Graph", "4.2", "Impossibility", "Result", "It", "is", "easy", "to", "see", "that", "the", "a", "failure", "locality", "of", "0", "-LRB-", "i.e.", ",", "the", "failure", "of", "a", "process", "does", "not", "starve", "any", "other", "processes", "-RRB-", "is", "unachievable", ".", "This", "is", "because", "a", "process", "may", "fail", "while", "eating", "and", "that", "means", "that", "the", "immediate", "neighbors", ",", "unaware", "of", "this", "failure", ",", "may", "starve", ".", "The", "following", "theorem", "states", "that", "a", "failure", "locality", "of", "1", "is", "also", "unachievable", ".", "Theorem", "1", "There", "does", "not", "exist", "a", "solution", "to", "the", "dining", "philosophers", "problem", "with", "a", "failure", "locality", "of", "1", ".", "Proof", ":", "Suppose", "there", "exists", "a", "solution", "with", "a", "failure", "locality", "of", "one", ".", "Consider", "the", "problem", "instance", "of", "3", "processes", "are", "neighbors", "of", "j", "but", "i", "and", "k", "are", "not", "neighbors", ".", "Consider", "the", "following", "execution", "history", "in", "which", "none", "of", "the", "processes", "fail", ".", "Initially", "all", "the", "processes", "are", "thinking", ".", "Process", "i", "becomes", "hungry", "first", ".", "Since", "thinking", "processes", "may", "remain", "thinking", "forever", ",", "there", "exists", "a", "future", "state", "at", "which", "i", "starts", "eating", "while", "j", "and", "k", "are", "still", "thinking", ".", "Now", ",", "assume", "that", "while", "i", "is", "eating", "both", "j", "and", "k", "become", "hungry", ".", "It", "is", "possible", "that", "process", "undetectably", "while", "eating", "and", "therefore", "in", "order", "to", "ensure", "a", "failure", "locality", "of", "one", ",", "process", "k", "should", "be", "allowed", "to", "eat", ".", "Thus", ",", "there", "exists", "a", "future", "state", "at", "which", "i", "and", "k", "are", "eating", "and", "j", "is", "hungry", ".", "Now", ",", "suppose", "that", "i", "finishes", "eating", "and", "becomes", "hungry", "again", ".", "By", "the", "same", "argument", "as", "before", ",", "there", "exists", "a", "future", "state", "at", "which", "k", "remains", "eating", ",", "j", "remains", "hungry", ",", "and", "i", "starts", "eating", ".", "Now", ",", "let", "process", "stop", "eating", "and", "become", "hungry", "again", ".", "This", "leads", "us", "back", "to", "a", "state", "that", "had", "existed", "earlier", "in", "the", "history", ":", "process", "i", "is", "eating", "and", "processes", "j", "and", "k", "are", "hungry", ".", "Note", "that", "process", "j", "remains", "hungry", "in", "all", "the", "intermediate", "states", ".", "This", "scenario", "may", "repeat", "continuously", ",", "giving", "us", "the", "desired", "contradiction", "as", "process", "j", "remains", "hungry", "forever", "though", "none", "of", "its", "neighbors", "have", "failed", ".", "2", "Initially", ":", "/", "*", "The", "main", "procedure", "*", "/", "ack", "i", "processes", "in", "N", "i", "in", "any", "order", "-RRB-", "-", "wait", "until", "ack", "i", "pending", "i", "wait", "until", "all-forks", "i", "all-forks", "all-low-forks", "i", "release", "release-high", "forever", "Figure", "2", ":", "Algorithm", "for", "Process", "i", "4.3", "An", "Optimal", "Algorithm", "We", "now", "construct", "an", "optimal", "algorithm", "with", "a", "failure", "locality", "of", "2", ".", "The", "algorithm", "consists", "of", "two", "parts", ":", "a", "bounded", "doorway", "as", "discussed", "in", "Section", "3", ",", "and", "a", "scheme", "to", "ensure", "mutual", "exclusion", "and", "absence", "of", "global", "starvation", ".", "Mutual", "exclusion", "is", "ensured", "by", "associating", "forks", "with", "edges", "and", "maintaining", "the", "invariant", "that", "an", "eating", "process", "has", "all", "the", "neighboring", "forks", ".", "In", "order", "to", "ensure", "the", "absence", "of", "global", "starvation", ",", "conflicting", "requests", "to", "the", "same", "fork", "are", "resolved", "in", "favor", "of", "the", "process", "with", "the", "smaller", "ID", ".", "Since", "this", "may", "lead", "to", "the", "formation", "of", "long", "waiting", "chains", "-LRB-", "which", "in", "turn", "results", "in", "poor", "failure", "locality", "-RRB-", ",", "processes", "break", "such", "long", "chains", "by", "selectively", "releasing", "forks", ".", "However", ",", "the", "process", "with", "the", "smallest", "ID", "does", "not", "release", "any", "forks", ".", "This", "ensures", "the", "absence", "of", "global", "starvation", ".", "The", "ID", "exchange", "mechanism", "due", "to", "the", "bounded", "doorway", "ensures", "that", "a", "continuously", "hungry", "process", "will", "eventually", "have", "a", "smaller", "ID", "than", "its", "competing", "neighbors", "and", "will", "be", "able", "to", "eat", ".", "The", "composite", "algorithm", "thus", "also", "ensures", "freedom", "from", "local", "starvation", ".", "The", "algorithm", "is", "shown", "in", "figures", "2", "and", "3", ".", "For", "any", "process", "i", ",", "the", "set", "N", "i", "defines", "its", "neighbors", ".", "Given", "a", "process", "j", "2", "N", "i", "with", ",", "we", "refer", "to", "process", "j", "as", "a", "high", "neighbor", "of", "process", "i", "and", "refer", "to", "process", "i", "as", "a", "low", "neighbor", "of", "process", "j.", "Similarly", ",", "the", "fork", "between", "the", "processes", "is", "referred", "to", "as", "a", "high", "fork", "at", "process", "i", "and", "as", "a", "low", "fork", "at", "process", "j.", "Process", "i", "uses", "a", "number", "of", "local", "variables", ".", "refers", "to", "the", "ID", "of", "process", "i", "and", "variable", "ID", "ij", "refers", "to", "the", "ID", "of", "process", "j", "as", "known", "at", "process", "i.", "Boolean", "fork", "ij", "is", "true", "iff", "the", "fork", "between", "processes", "i", "and", "j", "is", "at", "process", "i.", "Initially", "the", "fork", "is", "at", "the", "process", "with", "the", "smaller", "ID", ".", "The", "presence", "of", "a", "process", "inside", "the", "bounded", "doorway", "is", "indicated", "by", "a", "variable", "ack", "i", ".", "This", "variable", "is", "false", "iff", "process", "i", "is", "executing", "the", "code", "of", "the", "bounded", "doorway", ",", "i.e.", ",", "exchanging", "its", "ID", "with", "a", "neighbor", ".", "A", "queue", "Q", "i", "is", "used", "in", "order", "to", "select", "the", "next", "process", "On", "receiving", "message", "hrequesti", "from", "j", "such", "that", "ID", "ij", "pending", "i", "On", "receiving", "message", "hrequesti", "from", "j", "such", "that", "ID", "ij", "pending", "i", "release-high-forks", "fi", "On", "receiving", "message", "hfork", ",", "flagi", "from", "j", ":", "requested", "ij", "if", "f", "lag", "then", "pending", "i", "if", "all-low-forks", "i", "then", "request-high-forks", "lag", "On", "receiving", "message", "hexchg", ",", "IDi", "from", "j", ":", "if", "-LRB-", "ack", "i", "send", "hexchg-yes", ",", "ID", "i", "i", "to", "j", ";", "for", "each", "-LRB-", "k", "2", "N", "i", "do", "send", "hnewid", ",", "IDi", "to", "k", "od", "if", "-LRB-", "all-low-forks", "i", "-", "hungry", "i", "request-high-forks", "fi", "else", "send", "hexchg-noi", "to", "j", "fi", "On", "receiving", "message", "hexchg-yes", ",", "IDi", "from", "j", ":", "for", "each", "-LRB-", "k", "2", "N", "i", "do", "send", "hnewid", ",", "IDi", "to", "k", "od", "ack", "i", "true", "On", "receiving", "message", "hexchg-noi", "from", "j", ":", "ack", "i", "true", "On", "receiving", "message", "hnewid", ",", "IDi", "from", "j", ":", "Procedure", "request-forks", "for", "each", "j", "2", "N", "i", "do", "then", "send", "hrequest", "i", "to", "j", ";", "requested", "ij", ":", "=", "true", "fi", "od", "Procedure", "request-high-forks", "for", "each", "-LRB-", "j", "2", "N", "i", "do", "then", "send", "hrequest", "i", "to", "j", ";", "requested", "ij", ":", "=", "true", "fi", "od", "Procedure", "release-forks", "for", "each", "-LRB-", "j", "2", "pending", "i", "do", "od", "release-forks", "Procedure", "release-high-forks", "for", "each", "-LRB-", "j", "2", "pending", "i", "od", "release-high-forks", "Procedure", "release-id", "ack", "i", "send", "hexchg", ",", "ID", "i", "i", "to", "j", "fi", "Procedure", "send-fork", "-LRB-", "j", "-RRB-", "pending", "i", "pending", "send", "hfork", ";", "truei", "to", "j", ";", "requested", "ij", "true", "else", "send", "hfork", ";", "falsei", "to", "j", "fi", "Figure", "3", ":", "Algorithm", "for", "process", "i", "-LRB-", "continued", "-RRB-", "for", "exchanging", "IDs", ".", "Initially", "ack", "i", "is", "true", "and", "Q", "i", "is", "set", "to", "any", "arbitrary", "ordering", "of", "the", "processes", "in", "N", "i", "requested", "ij", "is", "true", "iff", "process", "i", "has", "sent", "an", "outstanding", "fork", "request", "to", "process", "j.", "Set", "pending", "i", "contains", "the", "fork", "requests", "that", "have", "not", "yet", "been", "serviced", ".", "When", "a", "process", "becomes", "hungry", ",", "it", "attempts", "to", "collect", "missing", "forks", "by", "sending", "request", "messages", ",", "as", "in", "procedure", "request-forks", ",", "to", "the", "neighbors", ".", "A", "process", "i", "receiving", "a", "request", "for", "a", "fork", "decides", "whether", "it", "is", "going", "to", "release", "the", "fork", "to", "requester", "j", "depending", "on", "its", "state", "and", "the", "relative", "order", "of", "the", "IDs", ".", "If", "ID", "ij", "then", "the", "fork", "is", "released", "if", "process", "i", "is", "thinking", "or", "if", "it", "has", "not", "collected", "all", "the", "low", "forks", "-LRB-", "this", "condition", "is", "captured", "by", "the", "predicate", "release-high", "i", "then", "the", "fork", "is", "released", "-LRB-", "along", "with", "all", "captured", "high", "forks", "in", "order", "to", "avoid", "the", "formation", "of", "long", "waiting", "chains", "-RRB-", "if", "process", "i", "is", "thinking", "or", "if", "it", "has", "not", "collected", "all", "the", "forks", "-LRB-", "this", "condition", "is", "captured", "by", "the", "predicate", "release", "i", "-RRB-", ".", "Note", "from", "procedure", "send-fork", "that", "if", "the", "process", "releasing", "a", "fork", "is", "hungry", "then", "it", "informs", "the", "requesting", "process", "of", "this", "by", "setting", "a", "flag", "in", "the", "fork", "to", "true", ".", "If", "a", "fork", "is", "not", "released", "to", "a", "requesting", "process", "then", "the", "ID", "of", "the", "requester", "is", "saved", "in", "set", "pending", "i", "for", "future", "consideration", ".", "If", "the", "reception", "of", "the", "fork", "completes", "the", "collection", "of", "all", "the", "low", "forks", "at", "a", "process", "then", "request", "for", "missing", "high", "forks", "are", "made", "by", "calling", "procedure", "request-high-forks", ".", "Otherwise", ",", "if", "the", "fork", "just", "received", "is", "a", "high", "fork", "with", "a", "true", "flag", "then", "the", "fork", "is", "returned", "to", "the", "sender", ".", "Once", "a", "process", "gathers", "all", "its", "forks", ",", "it", "transits", "to", "the", "eating", "state", "and", "enters", "the", "critical", "section", ".", "Upon", "exiting", "from", "the", "critical", "section", ",", "it", "sets", "its", "state", "to", "thinking", ",", "releases", "all", "the", "forks", "in", "pending", ",", "and", "executes", "the", "bounded", "doorway", "code", ",", "i.e.", ",", "procedure", "release-id", ",", "in", "order", "to", "exchange", "IDs", ".", "In", "this", "procedure", ",", "process", "i", "first", "invokes", "a", "function", "next", "to", "choose", "the", "next", "process", "with", "a", "higher", "ID", "from", "the", "queue", "Q", "i", ".", "If", "such", "a", "process", "exists", "then", "its", "ID", "is", "returned", "and", "it", "is", "moved", "to", "the", "end", "of", "the", "queue", ",", "otherwise", "a", "special", "value", "null", "is", "returned", ".", "The", "implementation", "of", "the", "function", "is", "straightforward", "and", "not", "shown", "here", ".", "If", "function", "next", "returns", "a", "non-null", "value", "j", "then", "ack", "i", "is", "set", "to", "false", "and", "an", "exchg", "message", "is", "sent", "to", "process", "j.", "Upon", "receiving", "this", "message", ",", "process", "j", "participates", "in", "an", "ID", "exchange", "iff", "it", "is", "outside", "the", "doorway", "-LRB-", "indicated", "by", "ack", "being", "true", "-RRB-", "and", "the", "ID", "exchange", "will", "lower", "its", "ID", ".", "In", "that", "case", "process", "j", "sends", "an", "exchg-yes", "message", "to", "i", "and", "also", "informs", "all", "neighbors", "of", "the", "new", "ID", ".", "Otherwise", ",", "process", "j", "responds", "with", "an", "exchg-no", "message", "to", "process", "i.", "Upon", "receiving", "a", "positive", "acknowledgement", "from", "process", "j", ",", "process", "i", "completes", "the", "ID", "exchange", "process", "and", "informs", "all", "of", "its", "neighbors", "of", "the", "new", "ID", ".", "If", "a", "negative", "acknowledgement", "is", "received", "then", "no", "exchange", "is", "carried", "out", ".", "In", "either", "case", ",", "ack", "i", "is", "set", "to", "true", "and", "the", "next", "iteration", "of", "state", "transitions", "begins", ".", "4.4", "Proof", "of", "Correctness", "We", "use", "the", "temporal", "operators", "2", "and", "3", "-LSB-", "17", "-RSB-", "in", "the", "following", "proof", ".", "Briefly", ",", "2p", "means", "that", "the", "formula", "p", "holds", "at", "all", "states", "in", "the", "history", "beginning", "with", "the", "current", "state", ",", "and", "3p", "means", "that", "the", "formula", "p", "holds", "at", "some", "future", "state", "in", "the", "history", "beginning", "with", "the", "current", "state", ".", "The", "following", "two", "lemmas", "are", "proved", "in", "the", "appendix", ".", "Lemma", "1", "If", "a", "non-failed", "process", "i", "starves", "then", "eventually", "for", "every", "neighbor", "j", ",", "the", "ordering", "of", "ID", "i", "and", "ID", "j", "becomes", "fixed", ".", "Formally", ",", "2", "-LRB-", "2", "-LRB-", ":", "failed", "-RRB-", "i", "-RRB-", ".", "Lemma", "2", "If", "a", "non-failed", "process", "i", "starves", "then", "eventually", "any", "low", "neighbor", "j", "either", "fails", ",", "or", "remains", "non-eating", "forever", "with", "ID", "ji", "2", "-LRB-", "2", "-LRB-", ":", "failed", "i", "-LRB-", "failed", "j", "-LRB-", ":", "eating", "j", "-RRB-", "-RRB-", "-RRB-", "i", "-RRB-", ".", "We", "construct", "a", "waiting", "graph", "W", "i", "for", "any", "starving", "non-failed", "process", "i", "as", "follows", ":", "Process", "i", "is", "in", "W", "i", ".", "ffl", "For", "any", "process", "j", "in", "W", "i", "apply", "Lemma", "2", ".", "Add", "a", "neighbor", "k", "to", "W", "i", "for", "which", ":", "failed", "k", "holds", ".", "ffl", "Repeat", "until", "no", "more", "processes", "can", "be", "added", "to", "W", "i", ".", "Informally", ",", "graph", "W", "i", "includes", "process", "i", "and", "all", "starving", "non-failed", "processes", "that", "are", "reachable", "by", "a", "chain", "of", "decreasing", "IDs", "through", "other", "processes", "in", "W", "i", ".", "The", "following", "lemma", "is", "proved", "in", "the", "appendix", ".", "Lemma", "3", "For", "any", "process", "j", "in", "W", "i", "and", "any", "low", "neighbor", "k", "of", "j", ",", "eventually", "the", "fork", "between", "j", "and", "k", "either", "remains", "at", "j", "forever", "or", "remains", "at", "k", "forever", ".", "Formally", ",", "-RRB-", "ii", ".", "Based", "on", "the", "above", "lemma", ",", "we", "can", "prove", "the", "following", "theorem", "about", "the", "failure", "locality", "of", "the", "algorithm", ".", "Theorem", "2", "If", "process", "i", "starves", "then", "there", "is", "a", "failed", "process", "at", "a", "distance", "at", "most", "2", "from", "it", ".", "Proof", ":", "For", "the", "sake", "of", "contradiction", ",", "assume", "that", "process", "i", "starves", "and", "all", "the", "processes", "within", "a", "distance", "of", "2", "from", "i", "do", "not", "fail", ".", "By", "Lemma", "3", ",", "for", "any", "neighbor", "j", "of", "process", "i", "eventually", "either", "holds", "forever", ".", "Now", ",", "there", "are", "two", "cases", "to", "consider", ":", "either", "eventually", "process", "i", "is", "holding", "all", "its", "low", "forks", "forever", "or", "eventually", "process", "i", "is", "missing", "some", "low", "fork", "forever", ".", "In", "the", "former", "case", ",", "process", "i", "sends", "requests", ",", "if", "necessary", ",", "to", "its", "high", "neighbors", "to", "collect", "the", "high", "forks", ".", "Since", "these", "processes", "do", "not", "fail", "they", "will", "eventually", "release", "the", "forks", ",", "and", "thus", "process", "i", "will", "eventually", "collect", "all", "the", "forks", "and", "start", "eating", ".", "This", "contradicts", "our", "assumption", "that", "process", "i", "starves", ".", "In", "the", "second", "case", ",", "let", "j", "be", "a", "low", "neighbor", "that", "holds", "on", "to", "a", "fork", "from", "process", "i", "forever", ".", "Since", "process", "j", "is", "holding", "a", "high", "fork", ",", "it", "must", "have", "collected", "all", "its", "low", "forks", ".", "Consequently", ",", "process", "j", "can", "start", "collecting", "any", "missing", "high", "forks", ".", "Since", "processes", "within", "a", "distance", "of", "2", "from", "i", "do", "not", "fail", ",", "processes", "within", "a", "distance", "of", "1", "from", "j", "do", "not", "fail", ".", "This", "implies", "that", "process", "j", "will", "be", "able", "to", "collect", "all", "the", "high", "forks", "and", "start", "eating", ".", "Eventually", "process", "j", "will", "finishes", "eating", "and", "release", "the", "fork", "to", "process", "i", ".", "This", "contradicts", "the", "assumption", "that", "the", "fork", "shared", "by", "processes", "i", "and", "j", "stays", "at", "process", "j", "forever", ".", "2", "5", "The", "Committee", "Coordination", "Problem", "5.1", "Problem", "Description", "The", "problem", "consists", "of", "a", "set", "of", "processes", "and", "a", "set", "of", "interactions", ".", "Each", "process", "has", "a", "predetermined", "set", "of", "interactions", "that", "it", "may", "participate", "in", "and", "each", "interaction", "has", "a", "predetermined", "set", "of", "processes", "that", "co-operate", "to", "execute", "it", ".", "Processes", "that", "may", "participate", "in", "the", "same", "interaction", "are", "physically", "close", "to", "each", "other", "and", "can", "communicate", "directly", ".", "A", "process", "may", "be", "in", "one", "of", "three", "states", ":", "idle", ",", "ready", ",", "and", "commit", ".", "Predicate", "idle", "i", "denotes", "that", "process", "i", "is", "idle", ".", "Predicates", "ready", "i", "and", "commit", "i", "are", "defined", "similarly", ".", "Initially", "all", "processes", "are", "idle", ".", "From", "time", "to", "time", ",", "a", "process", "becomes", "ready", "to", "take", "part", "in", "any", "of", "the", "interactions", "associated", "with", "it", "and", "it", "remains", "ready", "until", "one", "of", "the", "interactions", "is", "committed", ".", "Similar", "to", "a", "process", ",", "an", "interaction", "may", "also", "be", "in", "one", "of", "three", "states", ":", "idle", ",", "ready", ",", "or", "commit", ".", "An", "interaction", "is", "ready", "to", "be", "executed", "if", "all", "the", "processes", "associated", "with", "it", "are", "ready", ",", "an", "interaction", "is", "in", "the", "commit", "state", "if", "all", "the", "processes", "participating", "in", "it", "are", "committed", "to", "perform", "it", ",", "and", "an", "interaction", "is", "idle", "otherwise", ".", "During", "the", "execution", "of", "an", "interaction", ",", "the", "interaction", "and", "all", "the", "processes", "associated", "with", "the", "interaction", "are", "in", "the", "state", "commit", ".", "The", "commitment", "of", "each", "interaction", "eventually", "terminates", ",", "at", "which", "point", "the", "interaction", "and", "the", "processes", "become", "idle", "again", ".", "We", "say", "that", "two", "interactions", "conflict", "with", "each", "other", "if", "they", "share", "a", "common", "process", ".", "Based", "on", "this", "conflict", "relation", "between", "interactions", ",", "we", "define", "a", "conflict", "graph", "as", "follows", ":", "we", "represent", "each", "interaction", "by", "a", "node", "and", "place", "an", "edge", "between", "two", "nodes", "if", "the", "corresponding", "interactions", "conflict", ".", "As", "mentioned", "earlier", ",", "the", "state", "transitions", "of", "a", "process", "occur", "in", "the", "order", "idle", "to", "ready", "to", "commit", "and", "back", "to", "idle", ".", "The", "state", "transitions", "of", "an", "interaction", "are", "similar", "except", "for", "the", "fact", "that", "an", "interaction", "may", "transit", "to", "state", "idle", "directly", "from", "the", "state", "ready", ".", "This", "is", "because", "two", "neighboring", "interactions", "may", "be", "ready", "at", "the", "same", "time", "and", "committing", "one", "changes", "the", "state", "of", "the", "other", "to", "idle", ".", "The", "time", "for", "which", "an", "interaction", "is", "committed", "is", "assumed", "to", "be", "finite", ".", "A", "solution", "to", "the", "committee", "coordination", "problem", "should", "satisfy", "two", "safety", "requirements", ",", "synchronization", "and", "mutual", "exclusion", ",", "and", "one", "progress", "requirement", ",", "weak", "interaction", "fairness", ".", "Synchronization", "requires", "that", "the", "commitment", "of", "an", "interaction", "is", "only", "started", "if", "it", "is", "ready", ".", "Mutual", "exclusion", "requires", "that", "no", "two", "interactions", "sharing", "a", "common", "process", "commit", "simultaneously", ".", "Weak", "interaction", "fairness", "requires", "that", "if", "an", "interaction", "is", "continuously", "ready", "then", "it", "will", "eventually", "be", "committed", ".", "As", "in", "the", "dining", "philosophers", "problem", ",", "a", "process", "may", "fail", "at", "any", "time", "during", "a", "computation", "and", "this", "is", "modeled", "by", "an", "auxiliary", "predicate", "failed", "i", ".", "We", "say", "that", "an", "interaction", "fails", "if", "any", "process", "belonging", "to", "it", "fails", ".", "The", "failure", "locality", "of", "an", "algorithm", "is", "defined", "as", "the", "smallest", "number", "m", "such", "that", "for", "any", "interaction", ",", "as", "long", "as", "interactions", "within", "a", "distance", "of", "m", "in", "the", "conflict", "graph", "do", "not", "fail", ",", "the", "requirement", "of", "weak", "interaction", "fairness", "is", "satisfied", ".", "Failures", "do", "not", "impact", "the", "requirements", "of", "synchronization", "and", "mutual", "exclusion", "as", "these", "are", "safety", "properties", ".", "5.2", "Impossibility", "Result", "The", "following", "theorem", "shows", "that", "the", "effect", "of", "failure", "of", "a", "process", "can", "not", "be", "limited", "just", "to", "the", "interactions", "in", "which", "it", "participates", ".", "Theorem", "3", "There", "does", "not", "exist", "a", "solution", "to", "the", "committee", "coordination", "problem", "that", "achieves", "a", "failure", "locality", "of", "0", ".", "Proof", ":", "The", "proof", "is", "by", "reduction", "to", "the", "well-known", "result", "about", "the", "impossibility", "of", "distributed", "consensus", "with", "one", "faulty", "process", "-LSB-", "9", "-RSB-", ".", "Assume", "that", "there", "exists", "an", "algorithm", "that", "achieves", "a", "failure", "locality", "of", "0", ".", "In", "other", "words", ",", "the", "algorithm", "supposedly", "ensures", "that", "as", "long", "as", "processes", "in", "an", "interaction", "are", "ready", "and", "do", "not", "fail", ",", "the", "interaction", "or", "one", "of", "its", "neighbors", "commit", "eventually", ".", "We", "use", "such", "an", "algorithm", "to", "solve", "the", "distributed", "consensus", "problem", "for", "three", "processes", "In", "the", "consensus", "problem", "every", "process", "has", "an", "initial", "value", "and", "all", "non-failed", "processes", "have", "to", "agree", "on", "a", "common", "value", "that", "was", "one", "of", "the", "initial", "values", ".", "For", "the", "case", "of", "three", "processes", "that", "we", "consider", "here", ",", "we", "form", "three", "interactions", "I", "=", "fi", ";", "jg", ",", "J", "=", "fj", ";", "kg", ",", "and", "K", "=", "fk", ";", "ig", "and", "devise", "a", "mechanism", "by", "which", "the", "commitment", "of", "an", "interaction", "-LRB-", "e.g.", "I", "-RRB-", "implies", "that", "a", "consensus", "is", "reached", "on", "the", "initial", "value", "of", "the", "corresponding", "process", "-LRB-", "in", "this", "case", "i", "-RRB-", ".", "Every", "process", "first", "broadcasts", "its", "initial", "value", "to", "the", "other", "processes", "and", "then", "becomes", "ready", "to", "participate", "in", "any", "interaction", "of", "which", "it", "is", "a", "member", ".", "By", "the", "requirements", "of", "synchronization", ",", "mutual", "exclusion", "and", "weak", "interaction", "fairness", ",", "the", "underlying", "committee", "coordination", "algorithm", "commits", "exactly", "one", "of", "the", "interactions", "I", ",", "J", ",", "or", "K", ".", "The", "processes", "that", "are", "participating", "in", "the", "committed", "interaction", "broadcast", "its", "identity", "to", "the", "third", "process", ".", "Finally", ",", "the", "processes", "agree", "on", "the", "initial", "value", "of", "process", "corresponding", "to", "the", "committed", "interaction", ".", "Since", "processes", "broadcast", "their", "initial", "values", "before", "becoming", "ready", ",", "the", "value", "corresponding", "to", "a", "committed", "interaction", "is", "available", "at", "all", "the", "processes", ".", "Since", "at", "most", "one", "process", "fails", ",", "at", "least", "one", "interaction", "will", "be", "ready", "to", "be", "committed", ".", "By", "the", "assumed", "failure", "locality", "of", "the", "underlying", "committee", "coordination", "algorithm", ",", "at", "least", "one", "interaction", "commits", ".", "Therefore", ",", "at", "least", "one", "process", "is", "able", "to", "broadcast", "the", "identity", "of", "the", "committed", "interaction", ".", "As", "a", "result", ",", "all", "the", "non-failed", "processes", "agree", "on", "a", "common", "value", "that", "was", "one", "of", "the", "initial", "values", ".", "2", "Initially", ":", "/", "*", "The", "main", "procedure", "*", "/", "ack", "i", "processes", "in", "N", "i", "in", "any", "order", "-RRB-", "-", "wait", "until", "ack", "i", "pending", "i", "wakeup-neighbors", ";", "wait", "until", "commit", "i", "hperform", "state", "i", "release-id", "forever", "Figure", "4", ":", "Algorithm", "for", "Process", "i", "5.3", "An", "Optimal", "Algorithm", "We", "now", "construct", "an", "optimal", "algorithm", "with", "a", "failure", "locality", "of", "1", "for", "the", "binary", "version", "of", "the", "problem", ".", "As", "for", "the", "dining", "philosophers", "problem", ",", "we", "use", "a", "bounded", "doorway", "in", "which", "processes", "exchange", "IDs", "and", "another", "piece", "of", "code", "that", "ensures", "the", "two", "safety", "properties", "and", "global", "progress", ".", "For", "every", "interaction", ",", "the", "process", "with", "the", "smaller", "ID", "is", "designated", "as", "the", "manager", "and", "is", "responsible", "for", "committing", "the", "interaction", ".", "A", "process", "may", "possibly", "manage", "several", "interactions", "based", "upon", "the", "relative", "ordering", "of", "the", "IDs", "of", "the", "processes", ".", "For", "any", "process", "i", ",", "set", "N", "i", "defines", "the", "set", "of", "processes", "that", "participate", "in", "some", "common", "interaction", "with", "process", "i", ".", "When", "process", "i", "becomes", "ready", ",", "it", "attempts", "to", "commit", "the", "interactions", "it", "manages", "by", "invoking", "procedure", "request-commitment", ".", "While", "executing", "this", "procedure", ",", "process", "i", "sends", "request", "messages", "to", "each", "process", "j", "for", "which", "fi", ";", "jg", "is", "an", "interaction", "managed", "by", "process", "i", ".", "When", "process", "j", "receives", "a", "request", ",", "it", "replies", "with", "a", "yes", "message", "if", "it", "is", "ready", "and", "has", "not", "sent", "a", "yes", "message", "to", "another", "manager", ".", "Otherwise", ",", "it", "saves", "i", "in", "the", "set", "pending", "j", ".", "A", "local", "variable", "is", "set", "to", "true", "iff", "process", "j", "has", "sent", "a", "yes", "message", "to", "some", "manager", ".", "Upon", "receiving", "a", "yes", "message", "from", "process", "j", ",", "process", "i", "commits", "the", "interaction", "fi", ";", "jg", "provided", "it", "is", "still", "ready", "and", "has", "not", "responded", "with", "a", "yes", "message", "to", "some", "other", "manager", ".", "Otherwise", ",", "manager", "i", "responds", "with", "a", "release", "message", "to", "process", "j.", "On", "receiving", "this", "release", "message", ",", "process", "j", "informs", "the", "neighboring", "managers", "to", "retransmit", "request", "messages", "by", "sending", "a", "wakeup", "message", "to", "each", "process", "in", "pending", "j", ".", "On", "receiving", "a", "wakeup", "message", "from", "process", "j", ",", "these", "processes", "try", "to", "commit", "the", "corresponding", "interactions", "again", ".", "The", "complete", "algorithm", "is", "shown", "in", "figures", "4", "and", "5", ".", "Local", "variables", "ID", "i", "ack", "i", "are", "as", "in", "the", "dining", "philosophers", "algorithm", ".", "The", "implementation", "of", "the", "bounded", "doorway", ",", "i.e.", ",", "procedure", "release-id", ",", "is", "also", "as", "in", "the", "previous", "solution", ".", "On", "receiving", "message", "hrequesti", "from", "j", ":", "if", "-LRB-", "ready", "i", "send", "hyesi", "to", "j", ";", "else", "pending", "i", "On", "receiving", "message", "hyesi", "from", "j", "send", "hcommiti", "to", "j", ";", "state", "i", "else", "send", "hreleasei", "to", "j", "fi", ";", "requested", "ij", "On", "receiving", "message", "hreleasei", "from", "j", "wakeup-neighbors", ";", "request-commitment", "On", "receiving", "message", "hwakeupi", "from", "j", "requested", "ij", "if", "ready", "i", "then", "send", "hrequesti", "to", "j", ";", "requested", "ij", ":", "=", "true", "fi", "On", "receiving", "message", "hexchg", ",", "IDi", "from", "j", ":", "if", "-LRB-", "ack", "i", "-", "ID", "i", "send", "hexchg-yes", ",", "ID", "i", "i", "to", "j", ";", "for", "each", "-LRB-", "k", "2", "N", "i", "do", "send", "hnewid", ",", "IDi", "to", "ki", "od", "else", "send", "hexchg-noi", "to", "j", "fi", "On", "receiving", "message", "hcommiti", "from", "j", ":", "state", "i", ":", "=", "commit", "On", "receiving", "message", "hexchg-yes", ",", "IDi", "from", "j", ":", "for", "each", "-LRB-", "k", "2", "N", "i", "do", "send", "hnewid", ",", "IDi", "to", "ki", "od", "ack", "i", "On", "receiving", "message", "hexchg-no", ",", "IDi", "from", "j", ":", "ack", "i", "On", "receiving", "message", "hnewid", ",", "IDi", "from", "j", ":", "Procedure", "request-commitment", "for", "each", "-LRB-", "j", "2", "N", "i", "do", "if", ":", "bound", "i", "then", "send", "hrequesti", "to", "j", ";", "requested", "ij", ":", "=", "true", "fi", "od", "request-commitment", "Procedure", "wakeup-neighbors", "for", "each", "-LRB-", "j", "2", "pending", "i", "do", "send", "hwakeupi", "to", "j", "od", "pending", "i", "wakeup-neighbors", "Procedure", "release-id", "ack", "i", "send", "hexchg", ",", "ID", "i", "i", "to", "j", "fi", "Figure", "5", ":", "Algorithm", "for", "process", "i", "-LRB-", "continued", "-RRB-", "5.4", "Proof", "of", "Correctness", "The", "following", "two", "lemmas", "can", "be", "proved", "in", "a", "manner", "similar", "to", "Lemma", "1", "and", "Lemma", "2", ".", "Lemma", "4", "If", "a", "non-failed", "process", "i", "remains", "ready", "forever", "then", "eventually", "for", "every", "neighbor", "j", ",", "the", "ordering", "of", "ID", "i", "and", "ID", "j", "becomes", "fixed", ".", "Formally", ",", "2", "-LRB-", "2", "-LRB-", ":", "failed", "Lemma", "5", "If", "a", "non-failed", "process", "i", "remains", "ready", "forever", "then", "eventually", "any", "low", "neighbor", "of", "i", "either", "fails", ",", "remains", "non-committed", "forever", ".", "Formally", ",", "2", "-LRB-", "2", "-LRB-", ":", "failed", "-LRB-", "failed", "j", "-RRB-", "-RRB-", "-RRB-", "i", "-RRB-", ".", "We", "construct", "a", "waiting", "graph", "W", "i", "for", "any", "non-failed", "process", "i", "that", "is", "ready", "forever", "as", "follows", ":", "Process", "i", "is", "in", "W", "i", ".", "ffl", "For", "any", "process", "j", "in", "W", "i", "apply", "Lemma", "5", ".", "Add", "a", "neighbor", "k", "to", "W", "i", "for", "which", "holds", ".", "ffl", "Repeat", "until", "no", "more", "processes", "can", "be", "added", "to", "W", "i", "Informally", ",", "graph", "W", "i", "includes", "process", "i", "and", "all", "non-failed", "processes", "that", "are", "ready", "forever", "and", "reachable", "by", "a", "chain", "of", "decreasing", "IDs", "through", "other", "processes", "in", "W", "i", ".", "The", "following", "lemma", "is", "proved", "in", "the", "appendix", ".", "Lemma", "6", "For", "any", "process", "j", "in", "W", "i", ",", "eventually", "bound", "j", "becomes", "stable", ".", "Formally", ",", "-RRB-", "i.", "Based", "on", "the", "above", "lemma", ",", "we", "can", "prove", "the", "following", "theorem", "about", "the", "failure", "locality", "of", "the", "algorithm", ".", "Theorem", "4", "If", "interaction", "I", "remains", "ready", "forever", "then", "either", "I", "or", "some", "interaction", "conflicting", "with", "I", "fails", ".", "Proof", ":", "For", "the", "sake", "of", "contradiction", ",", "assume", "that", "interaction", "I", "remains", "ready", "forever", "and", "that", "all", "interactions", "conflicting", "with", "I", "do", "not", "fail", ".", "Let", "i", "and", "j", "be", "the", "two", "processes", "in", "I.", "By", "Lemma", "4", ",", "assume", "without", "loss", "of", "generality", "that", "belong", "to", "W", "i", "and", "by", "Lemma", "6", ",", "eventually", "bound", "i", "and", "bound", "j", "become", "fixed", ".", "If", "bound", "j", "becomes", "fixed", "to", "true", "then", "since", "neighboring", "interactions", "of", "I", "do", "not", "fail", ",", "process", "j", "will", "eventually", "send", "a", "yes", "message", "to", "a", "non-failed", "process", ".", "This", "process", "will", "eventually", "respond", "with", "a", "commit", "or", "a", "release", "message", ".", "In", "the", "former", "case", ",", "process", "j", "becomes", "non-ready", "and", "in", "the", "latter", "case", ",", "bound", "j", "is", "reset", "to", "false", ".", "Both", "of", "these", "are", "not", "possible", "by", "assumption", ".", "Therefore", ",", "it", "must", "be", "the", "case", "that", "bound", "j", "is", "fixed", "to", "false", "eventually", ".", "Similarly", ",", "it", "can", "be", "shown", "that", "bound", "i", "is", "fixed", "to", "false", "eventually", ".", "From", "the", "algorithm", ",", "process", "j", "sends", "a", "request", "message", "to", "process", "i", "each", "time", "bound", "j", "is", "reset", "to", "false", ".", "Consider", "a", "request", "message", "sent", "by", "process", "j", "after", "becomes", "fixed", "to", "false", ".", "Process", "i", "responds", "to", "this", "message", "by", "either", "a", "yes", "or", "a", "wakeup", "message", ".", "In", "the", "former", "case", ",", "process", "j", "becomes", "non-ready", "and", "in", "the", "latter", "case", ",", "process", "j", "retransmits", "a", "request", "message", ".", "The", "former", "is", "not", "possible", "as", "process", "j", "remains", "continuously", "ready", ".", "Therefore", ",", "process", "j", "sends", "a", "request", "message", "to", "process", "i", "infinitely", "often", ".", "Since", "bound", "i", "is", "eventually", "fixed", "to", "false", ",", "process", "eventually", "respond", "with", "a", "yes", "message", ",", "thus", "committing", "interaction", "I", ".", "This", "contradicts", "our", "assumption", "that", "I", "remains", "ready", "forever", ".", "2", "6", "Concluding", "Remarks", "In", "this", "paper", "we", "proved", "that", "a", "failure", "locality", "of", "one", "can", "not", "be", "achieved", "for", "the", "dining", "philosophers", "problem", ".", "The", "impossibility", "result", "was", "essentially", "based", "on", "the", "absence", "of", "global", "information", "in", "a", "totally", "asynchronous", "distributed", "system", ".", "Subsequently", ",", "we", "presented", "an", "algorithm", "with", "an", "optimal", "failure", "locality", "of", "two", ".", "The", "algorithm", "was", "based", "on", "the", "idea", "of", "a", "bounded", "doorway", "where", "processes", "exchanged", "IDs", "with", "their", "neighbors", "upon", "making", "progress", ".", "After", "that", "we", "considered", "the", "committee", "coordination", "problem", "and", "showed", "that", "a", "failure", "locality", "of", "0", "is", "unachievable", "for", "this", "problem", ".", "The", "proof", "was", "based", "on", "a", "reduction", "to", "the", "problem", "of", "distributed", "consensus", ".", "Finally", ",", "we", "presented", "an", "optimal", "algorithm", "for", "the", "binary", "version", "of", "the", "problem", ",", "once", "more", "based", "on", "the", "idea", "of", "a", "bounded", "doorway", ".", "The", "general", "case", "of", "the", "committee", "coordination", "problem", "can", "be", "solved", "by", "a", "reduction", "to", "the", "dining", "philosophers", "problem", "-LSB-", "5", "-RSB-", ".", "If", "we", "use", "the", "optimal", "algorithm", "that", "is", "presented", "here", "then", "the", "resulting", "solution", "to", "the", "committee", "coordination", "problem", "has", "a", "failure", "locality", "of", "two", ".", "It", "is", "an", "open", "question", "whether", "a", "failure", "locality", "of", "one", "can", "be", "achieved", "for", "this", "problem", ".", "--", "R", "Reference", "manual", "for", "the", "Ada", "programming", "language", ".", "Network", "decomposition", "and", "locality", "in", "distributed", "computation", ".", "A", "dining", "philosophers", "algorithm", "with", "polynomial", "response", "time", ".", "An", "effective", "implementation", "for", "the", "generalized", "input-output", "construct", "of", "CSP", "Parallel", "Program", "Design", ":", "A", "Foundation", ".", "Efficient", "fault", "tolerant", "algorithms", "for", "resource", "allocation", "in", "distributed", "systems", ".", "Adaptive", "algorithms", "for", "the", "mutual", "exclusion", "problem", ".", "Hierarchical", "ordering", "of", "sequential", "processes", ".", "Impossibility", "of", "distributed", "consensus", "with", "one", "faulty", "process", ".", "Parallel", "-LRB-", "ffi", "A", "fast", "parallel", "algorithm", "for", "the", "maximal", "independent", "set", "problem", ".", "An", "algorithm", "for", "N-party", "synchronization", "using", "tokens", "The", "mutual", "exclusion", "problem", ":", "Part", "I", "and", "II", ".", "Distributive", "algorithms", "-", "global", "solutions", "from", "local", "data", "A", "simple", "parallel", "algorithm", "for", "the", "maximal", "independent", "set", "problem", ".", "Fast", "allocation", "of", "nearby", "resources", "in", "a", "distributed", "system", ".", "How", "to", "Cook", "a", "Temporal", "Proof", "System", "for", "Your", "Pet", "Language", "A", "new", "and", "efficient", "implementation", "of", "multiprocess", "synchronization", ".", "Distributed", "algorithms", "for", "ensuring", "fair", "interprocess", "communications", ".", "Improved", "algorithms", "for", "distributed", "resource", "allocation", ".", "--", "TR", "--", "CTR", "Hagit", "Attiya", ",", "Eyal", "Dagan", ",", "Improved", "implementations", "of", "binary", "universal", "operations", ",", "Journal", "of", "the", "ACM", "-LRB-", "JACM", "-RRB-", ",", "v.", "48", "n.", "5", ",", "p.1013-1037", ",", "September", "2001", "Yehuda", "Afek", ",", "Michael", "Merritt", ",", "Gadi", "Taubenfeld", ",", "Dan", "Touitou", ",", "Disentangling", "multi-object", "operations", "-LRB-", "extended", "abstract", "-RRB-", ",", "Proceedings", "of", "the", "sixteenth", "annual", "ACM", "symposium", "on", "Principles", "of", "distributed", "computing", ",", "p.111-120", ",", "August", "21-24", ",", "1997", ",", "Santa", "Barbara", ",", "California", ",", "United", "States" ]

[ "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]