Ticket #8720: trac_8720-doctests-2.patch

File trac_8720-doctests-2.patch, 1.5 KB (added by Mike Hansen, 11 years ago)
  • sage/matrix/matrix2.pyx

    # HG changeset patch
    # User Mike Hansen <mhansen@gmail.com>
    # Date 1328664443 28800
    # Node ID 73b838b72eff3c348aabe333fc049d5e6afd7395
    # Parent  d76b628bbd9cd550bbba242091eb895c9e0a0d3c
    #8720: Fix doctests for "CC and CDF do not display numeric 0", part 2
    
    diff --git a/sage/matrix/matrix2.pyx b/sage/matrix/matrix2.pyx
    a b  
    81338133            [-0.057002 - 0.495035*I  -0.35059 - 0.625323*I  0.255514 - 0.415284*I]
    81348134            [ 0.394105 - 0.421778*I -0.392266 - 0.039345*I  -0.352905 + 0.62195*I]
    81358135            sage: M.round(6)  # random
    8136             [             -1.528503                      0                      0]
    8137             [  0.459974 - 0.40061*I              -1.741233                      0]
     8136            [             -1.528503                    0.0                    0.0]
     8137            [  0.459974 - 0.40061*I              -1.741233                    0.0]
    81388138            [-0.934304 + 0.148868*I   0.54833 + 0.073202*I              -0.550725]
    81398139            sage: (A - M*G).zero_at(10^-12)
    8140             [0 0 0]
    8141             [0 0 0]
    8142             [0 0 0]
     8140            [0.0 0.0 0.0]
     8141            [0.0 0.0 0.0]
     8142            [0.0 0.0 0.0]
    81438143            sage: (G*G.conjugate_transpose()).zero_at(10^-12)
    8144             [1.0   0   0]
    8145             [  0 1.0   0]
    8146             [  0   0 1.0]
     8144            [1.0 0.0 0.0]
     8145            [0.0 1.0 0.0]
     8146            [0.0 0.0 1.0]
     8147
    81478148
    81488149        A rectangular matrix.  Note that the ``orthonormal`` keyword
    81498150        is ignored in these cases.  ::