הבידוד והניתוק של יהודי אלג׳יריה ממרכזי היהדות הביא לצמיחת כמה חכמים ודיינים שהנהיגו את הקהילות הוותיקות. אולם בשל מספרם הקטן וידיעתם המועטת בתורה לא שרדו מהם חיבורים הלכתיים, ונשארו בידינו רק הדים לקיומם העולים כמעט בכל מקרה של התנגשות בין הפליטים מספרד בשנת קנ״א לבין הוותיקים על רקע הבדלי מנהג והלכה. בעיר מליאנה הצדיקו התושבים המקומיים את מנהגיהם בכך ״שבפני חכמים גדולים נהגו היתר בזה ולא מיחו בידם״. וכן בעיר ברשך הצדיקו הוותיקים את מנהגם להיתר בכך ״שלא מיחו בהם חכמי המקום״. אולם נראה שהחכמים היו מועטים, ומצויים היו בעיקר בקהילות הגדולות בשפלת החוף. הרשב״ץ מציין עובדה זו בתשובתו אל קהילת בג׳איה- Bougie בכתבו: ״הנה עמכם מה שאין בהרבה מקומות מאלו הארצות זקנים יודעים הנהגת הצבור יודעי דת ודין״«. שמותיהם של החכמים הקדומים כמעט שאינם ידועים מלבד בעיר מוסתגאנים שבימי הקדומים אסר החכם ר׳ אברהם ליטול לולב שקצצו גוי מהדקל ביום טוב ״.
התושבים הקדומים שחיו בקהילות הגדולות יכלו להביא עצומותיהם בפני דיינים. בעיר קונסטאנטינה שכנראה היו בה חיי קהילה מסודרים סיפר שמש בית־הכנסת כי כשלושים שנה לפני בוא גולי קנ״א היה בעיר דיין שהיה מורה לו להוסיף מים למקווה. בתקופת בוא גולי קנ׳׳א שימש ר׳ יוסף בר דוד שהרשב״ץ משבחו ביותר, כדיין בקהל קונסטאנטינה. בעיר תלמסאן שימשו כדיינים בקרב התושבים הוותיקים ר׳ יוסף אבן יחיון שהרשב״ץ משבח את פסקו, ור׳ שלמה בן קאין, שקבל עדות והשביע בבית־הכנסת, אולם הרשב״ץ אינו מסכים לשיטתו.
בואם של גולי קנ״א העלה על הפרק שאלת יחסם של התושבים החדשים אל הד­יינים ומנהיגי הציבור של הוותיקים בעיקר ביישובים בהם לא הוקמו קהלים חדשים, ויוצאי ספרד בהם היו כפופים לקהילה הוותיקה. בעיר תנס התעורר סכסוך שבעק­בותיו הטיח דברים אחד מיוצאי ספרד כנגד דיין הקהילה הוותיקה. השאלה הובאה לפני הריב״ש וזה הורה שמותר לדיין הקהילה להענישו. הריב״ש העריך וכיבד ביותר את דייני הקהל הוותיק בתנס ומנהיגיו. על גבי התשובה אליהם נכתב: ״גדולים בחכמה ובמנין יושבי אהל ומקנה וקנין משיבי מלחמתה של תורה כהלכה ושואלים כענין הנכבדים דייני ומנהיגי הקהל תנס יש׳ צו׳ ״. לעומת זאת ביישובים הקטנים שרר מחסור בחכמים ובמורי הוראה. הדבר הביא לכך שבעלי תפקידים דתיים מן המעלה השנייה כגון שליחי צבור ומלמדי תינוקות ממלאים תפקידי חכמים ונוטלים לעצמם אף כבוד ושררה המגיעים לתלמידי חכמים.
מרבית הידיעות המצויות בספרי השו״ת של חכמי אלג׳יריה הן על התושבים החדשים והקהילות שנוסדו לאחר שנת קנ״א. אולם עיון מדוקדק בשאלות ובתשובות מלמדנו על עשרות מנהגים דתיים וחברתיים שהיו מקובלים בקרב בני הקהילות הוותיקות.
א. בקריאת התורה בשבת להוסיף יותר משבעה קרואים: ריב״ש קיב.
ב. בזמן שהיו מפטירים בשירת דבורה היו מתרגמים אותה לערבית: תשב״ץ ג: קכא.
ג. למכור המפטיר למרבה במחיר ולקנות את המפטיר בשביל ילדיהם: ריב״ש לה.
ד. קריאת ההפטרה בשניים, אחד קורא פסוק אחד, והשני קורא את הפסוק השני, וכך קורין בדילוג: ריב״ש מ.
ה. כפילת פסוקים ומזמורים. כגון הודו שבסוף מזמור הודו לה׳ קראו בשמו, וכן הודו לאל השמים, וכן כל הנשמה תהלל יה, וכן ה׳ ימלוך לעולם ועד שבסוף שירת הים: ריב״ש קלג.
ו. מנהג לקדש על יין צמוקים: ריב״ש ט.
ז. מנהג לקדש על יין ענבים שמערבים בו דבש ומראהו איננו אדום: תשב״ץ א: נז.
ח. מנהג באלמדייא להתענות ביום הושענא רבא: תשב״ץ ג: קט.
ט. מנהג בכל גלילות ארץ ישמעאל שיום שמחת תורה או יום חופת חתן שכל בני הקהל מגדולם ועד קטנם קורין בתורה ומברכין, ולפעמים שצריך החזן לחזור ולקרות הסדר חמש או ששה פעמים כדי שיספיק לכל אחד ואחד ג׳ פסוקים: ריב״ש פד.
י. בדברים שהרמב״ם קובע הלכה על פי מנהג ולא דין, הולכים אחר המנהג שבעיר או לפי דין התלמוד אף אם מקובל בעיר שאין דנין אלא על פי הרמב״ם: ריב״ש ק.
יא. בווהראן הקלו בדם בתולים — מאידך החמירו בימי טוהר של יולדת: ריב״ש מ.
יב. בכל הארצות משחיתים הפיאות ומשאירים חוט אחד באמצע: תשב״ץ ב: ק.
יג. באלג׳יריה נהגו להשביע את העדים כמנהג המוסלמים: תשב״ץ ג: טו40.
יד. הענשת יהודי מקלל כהן כמנהג המוסלמים להעניש מקלל אחד מקרובי הנביא: ריב״ש צד!4.
טו. לצאת כל שבעת ימי אבלות לבית הקברות כמנהג הישמעאלים: ריבי׳ש קנח.
טז. נהגו להרבות ללבוש בגדי פשתן: ריב׳׳ש כט, סז.
יז, המיטות היו קבועות בכתלים, בימי האבל לא היו הופכים את הכרים בניגוד לנהוג בספרד: ריב״ש סט.
יח. באחד מבתי־הכנסת בבג׳איה נהגו לחלוץ את הנעלים לפני הכניסה כמנהג הישמעאלים לפני כניסתם למקום הקדוש. מנהג זה הונהג גם על ידי הרשב״ץ באלג׳יר: רשב״ש רפה.
יט. בתנס מנהג המדינה מימי קדם שכל המגרש אשה שלא מדעתה, מענישין אותו ממון: תשב״ץ ב: כ.
בימי הקיסרים שעלו על כס רומי לאחר אדריאנום נשתפר מצבם של היהודים בכלל ושל אוכלוסי אפריקה בפרט. הענקת זכויות אזרחיות ליהודים ומעמד נסבל לדתם משלבים אותם במסגרת האימפריה הרומית, ואין הם נבדלים לכאורה משאר האוכלוסים אלא בדתם. נוסף ליהודים, שמספרם היה ניכר, נתרבו אז ׳יראי השמים׳, שהיו נוחים לקבל השפעות יהודיות ונוצריות.
בסוף המאה השנייה לסה״נ ובראשית המאה השלישית משלו ברומי הקיסרים ספטימיוס סוורוס ובנו מארקוס אבליוס אנטונינוס (קאראקאלה), והם נודעו ביחסם הטוב כלפי היהודים. ספטימיוס עצמו נולד בלפטיס מאגנה (היא לבדה) שבטריפוליטאניה, ומוצאו האפריקאני ניכר היה בדיבורו כל ימיו. בנו מארקוס אברליוס אנטונינוס נתחנך יחד עם יהודים באפריקה. עליו מסופר, כי פעם אחת, בהיותו ילד בן שבע, שמע שאחד מחבריו למשחקים הוכה קשה בשל היותו יהודי. אנטונינוס (אז היה שמו עדיין יוליוס באסיאנוס, על שם סבו מצד האם) נמנע זמן רב להסתכל בפני אביו של חברו או בפני אביו הוא׳ כי הרגיש שהם אחראים לסבלו של הילד היהודי. יש סוברים כי אנטונינוס זה הוא ידידו של רבי, הנזכר תכופות באגדה. שני הקיסרים הירשו ליהודים לקבל משרות־כבוד, והירונימויס בפירושו לדניאל (יא, לה) אומר, כי היהודים פותרים ׳וללבן עד עת קץ׳ בספטימיוס ואנטינינוס. בחורבות בית־הכנסת בקציון, צפונית לצפת, נמצאה כתובת יוונית, ׳לטובת שלומם של האדונים שלנו השליטים הקיסרים לוקיוס ספטימיוס סוורוס ומארקוס אברליוס אנטונינוס (הוא קאראקאלה) ולוקיוס ספטימיוס גיטה בניו, בעבור שנדרו היהודים׳. מ. אבי־יונה מציין, כי זו היא הכתובת היחידה שהקדישו יהודי ארץ־ישראל לקיסרי רומי.
אמנם, לפי מקור אחד אסר סוורוס על עשיית נפשות ליהדות. אולם פקודה כזאת אינה נזכרת בשום מקום אחר. ואפילו נכון הדבר, קרוב להניח, כי איסור הגיור בא אגב איסור ההתנצרות ונתכוון בעיקר למנוע את זו. הרי טרטוליאן, בן דורם של שני הקיסרים מבית סוורוס, מתאונן על כך, שהרבה נוצרים מסתתרים תחת מסווה היהדות, מפני שהיא דת מותרת **יי, והמאמינים בה אינם צפויים לרדיפות שטבלו הנוצרים באותם הימים. עובדה היא, כי במקרים רבים שימשה התייחדותם של בני אומות העולם שלב מוקדם לכניסתם בחיק הנצרות, ובתקופה מאוחרת יותר פרוזדור לאיסלאם אף־על־פי־כן ראו סופרי הכנסיה הלאטינית, שמקורה בתחומן של מדינות העולם היווני־רומי באפריקה הצפונית, בהתפשטות היהדות בין עובדי־האלילים סכנה בלתי־אמצעית לנצרות׳ ונלחמו בה בנאומיהם ובוויכוחיהם.
מלחמתם של אבות־הכנסיה ביהדות במאה השלישית ובמחצית המאה הרביעית לא הוכתרה בהצלחה באפריקה! כאן רבו המתייהדים למחצה, לשליש ולרביע. או­לם משנעשתה הנצרות הדת השלטת באימפריה הרומית ונתבסס מעמדה של הכנסיה הרשמית, הוזעקו הקיסרים והמנגנון הממשלתי לעזרתם של נציגי הכנסיה באפריקה. נתפרסמה שורה של פקודות מכוונות נגד יהודים, מתייהדים וכופרים הן כיתות נוצריות שלא קיבלו את עיקרי הדת הרשמית. בייחוד היפנו את זעמם נגד ׳עובדי שמים׳, כת מתייהדים, שעל טיבה לא הגיעו לידינו ידיעות ברורות ומהימנות.
קונסטאנטין הגדול לא העז לפגוע במעמדם החוקי של היהודים, על אף יחסו השלילי אליהם. אולם כאשר כבש ואלנטיאנוס השני בשנת 355 את אפריקה הו­ציא פקודה נגד היהודים, שבה ביטל את החוק המעניק תוקף לעדותם לפני ער­כאותיהם, שממנו נהנו עד כה. עם זאת עדיין מוכרים היהודים כאזרחי רומי באחד החוקים (משנת 397) שב׳קודכס תיאודוסיאנוס׳, הנקרא על שמו של תיאודוסיוס הגדול (379—395), שהכריז בשנת 392 על הנצרות כעל דת המדינה. זמן לא רב לאחר מכן הוציא הקיסר הונוריוס (408—409) חוקים המכוונים נגד היהו­דים והדונאטיסטים, כת נוצרית שהתפשטה במהירות במאה הרביעית באפריקה והיתה בה סכנה חמורה לכמורה הרשמית. בימים ההם קרב לקיצו שלטון רומי המערבית על אפריקה, ואחד הנציבים בארץ אף העז להפסיק את משלוח התבואות לפרנסתו של ההמון במטרופולין, דבר שהיה לחוק מאות שנים.
לדבריו של הירונימוס (מת 420) מתוחה היתה באותו פרק־זמן שרשרת רצופה של יישובים יהודיים ממאוריטאניה במערב עד למזרח, דרך אפריקה, מצרים, ארץ־ישראל ועד הודו.